Deepfake z twarzą uczennicy. „Namawiano innych do dalszego udostępniania treści”

Według Wróblewskiego, była to sytuacja wykorzystania aplikacji, która na podstawie zdjęcia uczennicy wygenerowała jej sztuczne, nagie zdjęcie. Materiały miały być rozpowszechniane wśród uczniów, a rówieśnicy byli zachęcani do dalszego udostępniania treści.

Prezes UODO ocenił, że w tym przypadku powinny zostać zastosowane środki przewidziane w ustawie o postępowaniu w sprawach nieletnich. — Młodzi ludzie mocno przesadzili i środki dyscyplinujące są konieczne — wskazał.

Policja i prokuratura odmawiają działań. „Mamy powtarzający się problem”

Jak podkreślił Wróblewski, nie jest to pojedynczy przypadek. UODO regularnie spotyka się z odmowami wszczęcia postępowań w sprawach zgłoszonych, gdy dotyczą one deepfake’ów.

— Organy ścigania mają problem ze stosowaniem aktualnych przepisów do nowych technologii — powiedział prezes UODO, podkreślając, że luka prawna jest poważna i wymaga pilnych zmian.

Brak odpowiednich przepisów. Apel o nowe regulacje dotyczące deepfake’ów

We wrześniu UODO zaapelował do ministra cyfryzacji Krzysztofa Gawkowskiego o wprowadzenie przepisów odnoszących się wprost do fałszywych treści generowanych przez AI.

Zdaniem Wróblewskiego prawo autorskie, przepisy dotyczące ochrony dóbr osobistych oraz prawo karne nie zapewniają dziś skutecznej ochrony przed deepfake’ami. — Obecne rozwiązania są szczątkowe i niewystarczające — ocenia.

Deepfake’i jako narzędzie szantażu, naciągania i cyberprzemocy

Prezes UODO zwraca uwagę, że fałszywe materiały generowane przez AI coraz częściej prowadzą do poważnych kryzysów psychicznych wśród młodzieży, a nawet samobójstw. Deepfake’i służą też do szantażu rówieśniczego i oszustw finansowych.

Przypomniał też głośne przypadki, w których wykorzystywano wizerunek osób publicznych, m.in. Omeny Mensah, do tworzenia fałszywych reklam i nieprawdziwych historii o rzekomych zatrzymaniach.

Czy minister zareaguje? „Liczymy na rozwagę i troskę”

Wróblewski podkreślił, że oczekuje od ministra sprawiedliwości Waldemara Żurka „rozwagi i troski” w podejściu do sprawy, która jego zdaniem może mieć kluczowe znaczenie dla ochrony młodzieży i skuteczności walki z przestępczością cyfrową.