Jeszcze kilka lat temu technologia służąca do tworzenia realistycznych fotomontaży była wykorzystywana przede wszystkim przez profesjonalistów. Obecnie niemal każdy użytkownik internetu może skorzystać z aplikacji, która w ciągu kilkunastu sekund wygeneruje obraz przedstawiający konkretną osobę jako nagą lub uczestniczącą w czynnościach seksualnych. W wielu przypadkach efekt jest na tyle przekonujący, że odbiorcy mają trudności z odróżnieniem materiału wygenerowanego przez sztuczną inteligencję od autentycznej fotografii.
Skala problemu rośnie wraz z popularyzacją modeli generatywnych. Eksperci zajmujący się cyberbezpieczeństwem wskazują, że aplikacje typu „nudifier” są coraz częściej wykorzystywane do cyberprzemocy, szantażu, wyłudzania pieniędzy oraz niszczenia reputacji. Ofiarami padają zarówno osoby publiczne, jak i prywatni użytkownicy internetu, a szczególnie niepokojące jest wykorzystywanie zdjęć dzieci i nastolatków publikowanych w mediach społecznościowych.
To właśnie gwałtowny wzrost liczby takich przypadków sprawił, że instytucje unijne uznały problem za wykraczający poza kwestie technologiczne. Zdaniem Komisji Europejskiej sztuczna inteligencja nie może być wykorzystywana do naruszania godności człowieka ani do tworzenia treści ingerujących w jego prywatność bez wyraźnej zgody.
AI Act wzmacnia ochronę przed cyfrową przemocą seksualną
AI Act jest pierwszym na świecie kompleksowym aktem prawnym regulującym funkcjonowanie systemów sztucznej inteligencji. Rozporządzenie opiera się na analizie ryzyka, nakładając najbardziej rygorystyczne obowiązki na rozwiązania, które mogą naruszać prawa i wolności obywateli.
W czerwcu 2026 r. Parlament Europejski przyjął przepisy przewidujące zakaz oferowania i udostępniania aplikacji służących do tworzenia realistycznych materiałów przedstawiających intymne części ciała lub aktywność seksualną możliwej do zidentyfikowania osoby bez jej wyraźnej zgody. Zmiany obejmują zarówno obrazy statyczne, jak i nagrania wideo oraz materiały audio wykorzystujące technologie deepfake.
Unijni ustawodawcy podkreślają, że celem regulacji nie jest ograniczanie rozwoju sztucznej inteligencji jako takiej. Przepisy mają eliminować rozwiązania, których głównym przeznaczeniem jest wyrządzanie szkody innym osobom. W ocenie Parlamentu Europejskiego aplikacje do nudyfikacji nie realizują społecznie użytecznego celu, natomiast bardzo często służą poniżaniu, ośmieszaniu lub zastraszaniu ofiar.
Dlaczego zwykłe oznaczanie deepfake'ów nie wystarczy
AI Act już wcześniej wprowadził obowiązki dotyczące oznaczania treści wygenerowanych przez sztuczną inteligencję. Zgodnie z art. 50 rozporządzenia użytkownicy powinni być informowani o tym, że mają do czynienia z materiałem syntetycznym lub zmanipulowanym.
W przypadku aplikacji typu „nudifier” uznano jednak, że samo oznaczenie obrazu jako wygenerowanego przez AI nie rozwiązuje problemu. Nawet odpowiednio opisany materiał może zostać błyskawicznie skopiowany, rozpowszechniony i wykorzystany do wyrządzenia szkody osobie przedstawionej na zdjęciu. Z tego powodu unijne instytucje uznały, że konieczne jest ograniczenie samej możliwości tworzenia takich treści.
Eksperci zwracają uwagę, że usunięcie obrazu z internetu często nie kończy problemów. Materiał może zostać zapisany przez innych użytkowników, opublikowany na kolejnych platformach lub wykorzystany jako narzędzie szantażu. W praktyce skutki dla ofiary mogą utrzymywać się przez wiele lat.
Obowiązki producentów systemów sztucznej inteligencji
Nowe regulacje nie koncentrują się wyłącznie na użytkownikach. Znaczną część obowiązków AI Act nakłada na producentów modeli sztucznej inteligencji oraz podmioty udostępniające takie narzędzia.
Dostawcy systemów AI muszą wdrażać rozwiązania ograniczające możliwość tworzenia nielegalnych treści, przeprowadzać ocenę ryzyka oraz dokumentować sposób działania modeli. W przypadku systemów ogólnego przeznaczenia pojawiają się również obowiązki dotyczące transparentności oraz współpracy z organami nadzorczymi.
Jeżeli producent świadomie udostępnia rozwiązanie zaprojektowane przede wszystkim do naruszania praw innych osób, może narazić się na odpowiedzialność wynikającą zarówno z AI Act, jak i przepisów krajowych. W zależności od charakteru naruszenia możliwe jest wszczęcie postępowania administracyjnego oraz nałożenie wysokich kar finansowych przewidzianych w rozporządzeniu.
Odpowiedzialność użytkowników nie ogranicza się do AI Act
Nowe przepisy nie oznaczają, że wcześniej podobne działania były zgodne z prawem. Osoba wykorzystująca aplikację do nudyfikacji może odpowiadać na podstawie różnych gałęzi prawa.
Jeżeli wygenerowany materiał narusza dobra osobiste pokrzywdzonego, możliwe jest dochodzenie ochrony na podstawie Kodeksu cywilnego. Poszkodowany może domagać się usunięcia skutków naruszenia, przeprosin, zadośćuczynienia lub odszkodowania.
Znaczenie mogą mieć również przepisy RODO, jeżeli fotografia pozwala zidentyfikować konkretną osobę. W określonych przypadkach zastosowanie mogą znaleźć także przepisy Kodeksu karnego dotyczące zniesławienia, stalkingu czy bezprawnego rozpowszechniania określonych materiałów. Każda sprawa wymaga indywidualnej oceny, jednak AI Act wyraźnie pokazuje kierunek zmian – wykorzystywanie sztucznej inteligencji do naruszania prywatności i godności człowieka będzie podlegało coraz bardziej rygorystycznym ograniczeniom.
Źródła:
- Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 (AI Act).
- Komisja Europejska.
- Parlament Europejski.
- AI Office.
- Europejska Rada Ochrony Danych.
- ENISA.
- OECD AI Policy Observatory.
Współpracował z Wirtualną Polską, Wprost, Zieloną Interią. Komentuje wydarzenia polityczne dla Polskiego Radia. Zajmuje się polityką międzynarodową i krajową na łamach Gazety Prawnej. Pasjonat technologii i nauki.