Przez długi czas problem fałszywych materiałów tworzonych przy użyciu sztucznej inteligencji kojarzony był głównie z osobami publicznymi. Dziś sytuacja wygląda zupełnie inaczej. Coraz częściej ofiarami są uczniowie, studenci, pracownicy firm, nauczyciele, lekarze czy przedsiębiorcy. Wystarczy zdjęcie opublikowane w mediach społecznościowych, aby algorytm wygenerował realistyczny obraz przedstawiający nagą sylwetkę lub sfabrykowaną scenę o charakterze seksualnym.
Eksperci zajmujący się cyberbezpieczeństwem zwracają uwagę, że materiały tego typu są wykorzystywane przede wszystkim do ośmieszania, wymuszania określonych zachowań, szantażu oraz odwetu po zakończeniu związku. Coraz częściej służą także do wyłudzania pieniędzy. Przestępcy kontaktują się z pokrzywdzonymi, grożąc opublikowaniem wygenerowanych zdjęć rodzinie, pracodawcy lub znajomym, jeżeli ofiara nie zapłaci okupu.
Rozwój generatywnej sztucznej inteligencji sprawił, że bariera wejścia praktycznie zniknęła. Jeszcze kilka lat temu stworzenie wiarygodnego fotomontażu zajmowało wiele godzin. Obecnie podobny efekt można osiągnąć w kilkanaście sekund, korzystając z aplikacji dostępnych w internecie.
AI Act wzmacnia ochronę osób przedstawianych na fałszywych materiałach
Unia Europejska uznała wykorzystywanie sztucznej inteligencji do tworzenia nieautoryzowanych materiałów intymnych za jedno z najpoważniejszych zagrożeń związanych z generatywną AI. Dlatego w ramach AI Act oraz kolejnych zmian do rozporządzenia wprowadzane są rozwiązania ograniczające możliwość oferowania aplikacji służących wyłącznie do tworzenia takich treści.
Nowe przepisy koncentrują się przede wszystkim na dostawcach technologii. Producenci modeli sztucznej inteligencji oraz podmioty udostępniające takie rozwiązania mają obowiązek ograniczania ryzyka nadużyć oraz wdrażania mechanizmów zapobiegających wykorzystywaniu systemów do naruszania praw innych osób.
Istotne znaczenie ma również art. 50 AI Act, który nakłada obowiązki związane z transparentnością treści wygenerowanych przez sztuczną inteligencję. W przypadku deepfake'ów użytkownik powinien zostać poinformowany, że obraz lub nagranie zostały wygenerowane albo zmanipulowane przy użyciu AI. Unijni ustawodawcy podkreślają jednak, że samo oznaczenie materiału nie zawsze zapewnia skuteczną ochronę osobie pokrzywdzonej. Z tego względu rozwijane są kolejne mechanizmy mające ograniczyć dostępność aplikacji przeznaczonych do nudyfikacji zdjęć.
Jakie prawa przysługują osobie pokrzywdzonej?
Osoba, której wizerunek został wykorzystany do stworzenia fałszywego materiału o charakterze intymnym, nie pozostaje bez ochrony. W polskim systemie prawnym może korzystać z kilku niezależnych instrumentów.
Najdalej idącą ochronę zapewniają przepisy Kodeksu cywilnego dotyczące dóbr osobistych. Wizerunek, cześć, dobre imię, prywatność oraz godność należą do dóbr chronionych przez prawo. Jeżeli zostaną naruszone poprzez opublikowanie materiału wygenerowanego przez sztuczną inteligencję, poszkodowany może wystąpić do sądu z żądaniem usunięcia skutków naruszenia, złożenia przeprosin, zapłaty zadośćuczynienia lub odszkodowania.
W wielu przypadkach zastosowanie znajdą również przepisy RODO. Zdjęcie przedstawiające możliwą do zidentyfikowania osobę stanowi dane osobowe. Jeżeli fotografia została wykorzystana bez odpowiedniej podstawy prawnej do wygenerowania nowych treści, może dojść do naruszenia przepisów dotyczących ochrony danych osobowych. W takich sprawach możliwe jest złożenie skargi do Prezesa Urzędu Ochrony Danych Osobowych.
Znaczenie mogą mieć również przepisy prawa autorskiego, zwłaszcza gdy wykorzystana fotografia podlega ochronie jako utwór. Niezależnie od naruszenia prywatności może dojść także do bezprawnego wykorzystania cudzego zdjęcia.
Pierwsze działania należy podjąć natychmiast
Największym błędem po odkryciu fałszywego materiału jest bierne oczekiwanie. Internet sprzyja błyskawicznemu kopiowaniu treści, dlatego każda godzina zwłoki zwiększa ryzyko dalszego rozpowszechniania zdjęcia lub filmu.
W pierwszej kolejności warto zabezpieczyć dowody. Należy wykonać zrzuty ekranu, zapisać adresy internetowe, daty publikacji oraz profile użytkowników rozpowszechniających materiał. W przypadku nagrań warto zachować również kopię filmu wraz z informacjami o miejscu jego publikacji.
Kolejnym krokiem powinno być zgłoszenie naruszenia administratorowi serwisu. Większość największych platform internetowych posiada procedury dotyczące usuwania materiałów naruszających prywatność oraz treści wygenerowanych przez sztuczną inteligencję bez zgody osoby przedstawionej. Im szybciej zgłoszenie zostanie złożone, tym większa szansa na ograniczenie zasięgu materiału.
W razie podejrzenia popełnienia przestępstwa warto również zawiadomić Policję lub prokuraturę. Jeżeli materiał wykorzystywany jest do szantażu, wyłudzenia pieniędzy albo uporczywego nękania, szybkie wszczęcie postępowania może zwiększyć szanse na ustalenie sprawcy.
Platformy internetowe muszą szybciej reagować na zgłoszenia
Samo usunięcie spornego materiału przez jego autora często nie kończy problemu. Fałszywe zdjęcia są kopiowane, publikowane na kolejnych profilach i rozpowszechniane za pośrednictwem komunikatorów. Z tego powodu obowiązki wprowadzenia odpowiednich regulacji spoczywają też na największych platformach internetowych.
Podstawowym aktem regulującym odpowiedzialność serwisów internetowych jest Akt o usługach cyfrowych (DSA). Rozporządzenie nie nakłada na platformy obowiązku stałego monitorowania wszystkich publikowanych treści, zobowiązuje je jednak do sprawnego reagowania po uzyskaniu informacji o nielegalnym materiale. Jeżeli administrator otrzyma prawidłowo przygotowane zgłoszenie, powinien je niezwłocznie zweryfikować i – jeżeli naruszenie zostanie potwierdzone – ograniczyć dostęp do treści lub usunąć ją z serwisu.
Największe platformy internetowe wdrożyły również własne procedury dotyczące materiałów przedstawiających intymne treści wygenerowane bez zgody osoby widocznej na zdjęciu lub nagraniu. W praktyce zgłoszenie powinno zawierać dokładny adres publikacji, opis naruszenia oraz informacje pozwalające jednoznacznie zidentyfikować pokrzywdzonego. Im bardziej kompletne zgłoszenie, tym większa szansa na szybką reakcję administratora.
Jak usunąć fałszywe zdjęcia z internetu?
Osoby, które padły ofiarą nudyfikacji lub deepfake porn, nie powinny ograniczać się wyłącznie do zgłoszenia materiału administratorowi serwisu. W praktyce warto prowadzić kilka działań równolegle.
W pierwszej kolejności należy zabezpieczyć dowody. Dotyczy to zrzutów ekranu, adresów URL, dat publikacji oraz danych profilu, z którego rozpowszechniono materiał. Jeżeli treść zostanie później usunięta, zgromadzone dowody mogą mieć istotne znaczenie w postępowaniu cywilnym lub karnym.
Następnie warto zgłosić naruszenie administratorowi platformy, wskazując, że materiał został wygenerowany przez sztuczną inteligencję bez zgody osoby przedstawionej na obrazie. Jeżeli administrator nie podejmie działań albo materiał pojawia się w kolejnych miejscach, możliwe jest skierowanie sprawy na drogę sądową oraz zawiadomienie organów ścigania.
W przypadkach dotyczących szantażu, wyłudzenia pieniędzy, uporczywego nękania lub publikacji materiałów dotyczących osób małoletnich zgłoszenie Policji lub prokuratury powinno nastąpić niezwłocznie.
AI Act zwiększa obowiązki dostawców systemów sztucznej inteligencji
Równolegle zmieniają się obowiązki producentów modeli AI oraz podmiotów udostępniających generatywną sztuczną inteligencję.
AI Act nakłada na dostawców określonych systemów obowiązki dotyczące transparentności, ograniczania ryzyka oraz oznaczania treści wygenerowanych przez sztuczną inteligencję. Szczególne znaczenie ma art. 50 rozporządzenia, który przewiduje obowiązki związane z oznaczaniem deepfake'ów oraz innych syntetycznych materiałów mogących wprowadzać odbiorców w błąd. Komisja Europejska opublikowała również kodeks dobrych praktyk ułatwiający stosowanie tych przepisów przez dostawców i podmioty wykorzystujące generatywną AI.
Jednocześnie przyjęte w czerwcu 2026 r. zmiany do AI Act przewidują zakaz udostępniania na rynku Unii Europejskiej systemów zaprojektowanych do tworzenia realistycznych materiałów przedstawiających intymne części ciała lub aktywność seksualną możliwej do zidentyfikowania osoby bez jej wyraźnej zgody. Rozwiązania te zostały uznane za szczególnie niebezpieczne z punktu widzenia ochrony godności, prywatności oraz autonomii jednostki.
Odpowiedzialność sprawców może mieć kilka wymiarów
Osoba wykorzystująca sztuczną inteligencję do stworzenia i rozpowszechnienia fałszywego materiału intymnego może ponosić odpowiedzialność jednocześnie na kilku płaszczyznach.
Po pierwsze, odpowiada cywilnie za naruszenie dóbr osobistych, takich jak wizerunek, prywatność, dobre imię czy godność. Poszkodowany może domagać się usunięcia skutków naruszenia, przeprosin, zadośćuczynienia oraz odszkodowania.
Po drugie, w zależności od okoliczności sprawy zastosowanie mogą znaleźć przepisy Kodeksu karnego dotyczące m.in. stalkingu, zniesławienia, gróźb, szantażu lub innych przestępstw przeciwko wolności człowieka. Jeżeli sprawa dotyczy osoby małoletniej, konsekwencje prawne mogą być znacznie dalej idące.
Po trzecie, wykorzystanie fotografii pozwalającej na identyfikację konkretnej osoby może prowadzić również do naruszenia przepisów o ochronie danych osobowych oraz skutkować postępowaniem prowadzonym przez Prezesa Urzędu Ochrony Danych Osobowych.
Szybka reakcja zwiększa szanse na ograniczenie skutków
Doświadczenia organów ścigania oraz ekspertów zajmujących się cyberbezpieczeństwem pokazują, że czas odgrywa kluczową rolę. Każda godzina zwłoki zwiększa ryzyko skopiowania materiału przez kolejnych użytkowników i jego publikacji w następnych serwisach.
Dlatego po ujawnieniu fałszywego zdjęcia lub filmu należy równolegle zabezpieczyć dowody, zgłosić naruszenie administratorowi platformy, rozważyć zawiadomienie organów ścigania oraz podjąć działania zmierzające do ochrony dóbr osobistych przed sądem. AI Act oraz nowe przepisy dotyczące aplikacji do nudyfikacji mają utrudnić powstawanie takich materiałów, jednak nie zastąpią szybkiej reakcji osoby pokrzywdzonej.
Źródła:
- AI Act – Rozporządzenie (UE) 2024/1689.
- Parlament Europejski – zmiany dotyczące aplikacji do nudyfikacji.
- Komisja Europejska – Code of Practice on Transparency of AI-Generated Content.
- Art. 50 AI Act – obowiązki dotyczące oznaczania treści wygenerowanych przez AI.
- Akt o usługach cyfrowych (DSA) – obowiązki platform internetowych.
Współpracował z Wirtualną Polską, Wprost, Zieloną Interią. Komentuje wydarzenia polityczne dla Polskiego Radia. Zajmuje się polityką międzynarodową i krajową na łamach Gazety Prawnej. Pasjonat technologii i nauki.