Deepfake z twarzą uczennicy: „Namawiano innych do dalszego udostępniania treści”

Według Wróblewskiego, była to sytuacja wykorzystania aplikacji, która na podstawie zdjęcia uczennicy wygenerowała jej sztuczne, nagie zdjęcie. Materiały miały być rozpowszechniane wśród uczniów, a rówieśnicy byli zachęcani do dalszego udostępniania treści.

Prezes UODO ocenił, że w tym przypadku powinny zostać zastosowane środki przewidziane w ustawie o postępowaniu w sprawach nieletnich. — Młodzi ludzie mocno przesadzili i środki dyscyplinujące są konieczne — wskazał.

Policja i prokuratura odmawiają działań: „Mamy powtarzający się problem”

Jak podkreślił Wróblewski, nie jest to pojedynczy przypadek. UODO regularnie spotyka się z odmowami wszczęcia postępowań w sprawach zgłoszonych, gdy dotyczą one deepfake’ów.

— Organy ścigania mają problem ze stosowaniem aktualnych przepisów do nowych technologii — powiedział prezes UODO, podkreślając, że luka prawna jest poważna i wymaga pilnych zmian.

Brak odpowiednich przepisów: apel o nowe regulacje dotyczące deepfake’ów

We wrześniu UODO zaapelował do ministra cyfryzacji Krzysztofa Gawkowskiego o wprowadzenie przepisów odnoszących się wprost do fałszywych treści generowanych przez AI.

Zdaniem Wróblewskiego prawo autorskie, przepisy dotyczące ochrony dóbr osobistych oraz prawo karne nie zapewniają dziś skutecznej ochrony przed deepfake’ami. — Obecne rozwiązania są szczątkowe i niewystarczające — ocenia.

Deepfake jako narzędzie szantażu, oszustw i cyberprzemocy

Prezes UODO zwraca uwagę, że fałszywe materiały generowane przez AI coraz częściej prowadzą do poważnych kryzysów psychicznych wśród młodzieży, a nawet samobójstw. Deepfake’i służą też do szantażu rówieśniczego i oszustw finansowych.

Przypomniał też głośne przypadki, w których wykorzystywano wizerunek osób publicznych, m.in. Omeny Mensah, do tworzenia fałszywych reklam i nieprawdziwych historii o rzekomych zatrzymaniach.

Czy minister zareaguje? „Liczymy na rozwagę i troskę”

Wróblewski podkreślił, że oczekuje od ministra sprawiedliwości Waldemara Żurka „rozwagi i troski” w podejściu do sprawy, która jego zdaniem może mieć kluczowe znaczenie dla ochrony młodzieży i skuteczności walki z przestępczością cyfrową.