Popularność aplikacji wykorzystujących sztuczną inteligencję do tworzenia fałszywych nagich zdjęć sprawiła, że coraz częściej pojawia się pytanie o odpowiedzialność samych użytkowników. Wbrew obiegowym opiniom odpowiedź nie jest jednoznaczna. Samo pobranie lub uruchomienie aplikacji nie zawsze oznacza naruszenie prawa, jednak sposób jej wykorzystania może prowadzić do odpowiedzialności cywilnej, administracyjnej, a w określonych przypadkach również karnej. Dodatkowo AI Act wprowadza nowe obowiązki dla dostawców systemów sztucznej inteligencji i ogranicza możliwość oferowania rozwiązań zaprojektowanych do tworzenia nieautoryzowanych materiałów intymnych.
Samo pobranie aplikacji nie przesądza o odpowiedzialności
W polskim porządku prawnym nie obowiązuje przepis, który wprost zakazywałby posiadania aplikacji wykorzystującej sztuczną inteligencję do edycji obrazów. Odpowiedzialność zależy od tego, w jaki sposób narzędzie zostanie wykorzystane oraz jakie skutki wywoła działanie użytkownika.
Jeżeli aplikacja służy wyłącznie do legalnej obróbki własnych materiałów graficznych albo do tworzenia fikcyjnych obrazów niezwiązanych z konkretną osobą, co do zasady nie dochodzi do naruszenia praw osób trzecich. Zupełnie inaczej wygląda sytuacja, gdy użytkownik przesyła fotografię pozwalającą zidentyfikować konkretną osobę i wykorzystuje sztuczną inteligencję do wygenerowania fałszywego nagiego zdjęcia lub materiału o charakterze seksualnym.
W takiej sytuacji ocenie podlega nie nazwa aplikacji ani zastosowana technologia, lecz efekt działania użytkownika oraz konsekwencje dla osoby przedstawionej na obrazie.
AI Act ogranicza dostępność aplikacji do nudyfikacji
Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689, czyli AI Act, opiera się na zasadzie ograniczania ryzyka związanego z wykorzystywaniem sztucznej inteligencji. W kolejnych pracach legislacyjnych instytucje unijne uznały aplikacje przeznaczone do tworzenia nieautoryzowanych materiałów intymnych za rozwiązania wymagające szczególnej reakcji.
Przyjęte przez Parlament Europejski zmiany przewidują zakaz oferowania na rynku Unii Europejskiej systemów AI zaprojektowanych do generowania realistycznych materiałów przedstawiających intymne części ciała lub aktywność seksualną możliwej do zidentyfikowania osoby bez jej wyraźnej zgody. Regulacje koncentrują się przede wszystkim na producentach i dostawcach takich rozwiązań, jednak wyraźnie pokazują kierunek zmian – sztuczna inteligencja nie może służyć naruszaniu godności oraz prywatności człowieka.
W jakich sytuacjach użytkownik może ponieść odpowiedzialność?
Najczęściej odpowiedzialność pojawia się wtedy, gdy wygenerowany materiał zostaje opublikowany lub przekazany innym osobom. Rozpowszechnienie fałszywego nagiego zdjęcia może prowadzić do naruszenia dóbr osobistych, takich jak wizerunek, prywatność, dobre imię czy godność.
Poszkodowany może wówczas wystąpić z roszczeniami na podstawie Kodeksu cywilnego. Sąd może nakazać usunięcie materiału, opublikowanie przeprosin, zapłatę zadośćuczynienia, a w razie wykazania szkody majątkowej również odszkodowania.
Znaczenie mogą mieć także przepisy RODO. Fotografia przedstawiająca możliwą do zidentyfikowania osobę stanowi dane osobowe. Jeżeli została wykorzystana bez odpowiedniej podstawy prawnej do wygenerowania nowych treści, możliwe jest wszczęcie postępowania przez Prezesa Urzędu Ochrony Danych Osobowych.
Kiedy w grę wchodzi odpowiedzialność karna?
Polski Kodeks karny nie zawiera obecnie odrębnego przestępstwa polegającego wyłącznie na wygenerowaniu fałszywego nagiego zdjęcia przy użyciu sztucznej inteligencji. Nie oznacza to jednak, że sprawca pozostaje bezkarny.
Jeżeli materiał zostanie wykorzystany do poniżenia pokrzywdzonego, uporczywego nękania, szantażu, wyłudzenia pieniędzy lub rozpowszechnienia nieprawdziwych informacji godzących w jego reputację, zastosowanie mogą znaleźć przepisy dotyczące między innymi stalkingu, gróźb bezprawnych, zniesławienia lub innych przestępstw przeciwko wolności i czci.
Szczególnie poważnie traktowane są sprawy dotyczące osób małoletnich. W takich przypadkach organy ścigania analizują nie tylko sposób powstania materiału, lecz także jego treść, sposób rozpowszechniania oraz skutki dla pokrzywdzonego.
Przesłanie zdjęcia znajomym również może mieć konsekwencje
Błędne jest przekonanie, że odpowiedzialność dotyczy wyłącznie osoby publikującej materiał w mediach społecznościowych. Ryzyko prawne może pojawić się również wtedy, gdy wygenerowany obraz zostanie przesłany innym osobom za pośrednictwem komunikatora lub poczty elektronicznej.
Każde dalsze rozpowszechnianie materiału zwiększa skalę naruszenia dóbr osobistych pokrzywdzonego i może mieć znaczenie przy ocenie odpowiedzialności sprawcy. W praktyce sądy biorą pod uwagę nie tylko sam fakt stworzenia obrazu, ale również liczbę odbiorców, cel działania oraz skutki wywołane publikacją.
Rosnąca odpowiedzialność dostawców i użytkowników AI
Rozwój generatywnej sztucznej inteligencji powoduje, że odpowiedzialność za nadużycia nie będzie spoczywać wyłącznie na użytkownikach. AI Act nakłada obowiązki również na producentów modeli, dostawców usług oraz podmioty udostępniające systemy AI na rynku europejskim.
Oznacza to, że w kolejnych latach można spodziewać się dalszego ograniczania dostępności narzędzi przeznaczonych przede wszystkim do tworzenia fałszywych materiałów intymnych. Jednocześnie osoby korzystające z takich aplikacji powinny pamiętać, że wykorzystanie sztucznej inteligencji nie zwalnia z odpowiedzialności za skutki własnych działań. Jeżeli AI zostanie użyta do naruszenia cudzych praw, konsekwencje prawne ponosi człowiek, który zdecydował o jej wykorzystaniu.
Współpracował z Wirtualną Polską, Wprost, Zieloną Interią. Komentuje wydarzenia polityczne dla Polskiego Radia. Zajmuje się polityką międzynarodową i krajową na łamach Gazety Prawnej. Pasjonat technologii i nauki.