Zanim Jerzy Stuhr naprawdę umarł, różne fejkowe „informacje” o jego śmierci odsłoniły się w globalnej sieci miliardy razy przynosząc gigantyczny dochód. Komu?

  • Autorom tych enuncjacji?
  • Tym, którzy umieścili śmieciowe fejki w mediach społecznościowych?
  • Samym mediom, a ściślej – ich właścicielom - czyli bóg-techom?

Dla Rafała Brzoski, twórcy i szefa InPostu, to ważne pytania, bo w minionych tygodniach miliony razy uśmiercano w sieci jego i jego żonę. W innym wariancie – całym sobą (obliczem, sylwetką, gestami, głosem) reklamował w necie wielce zyskowne – ale trefne - inwestycje finansowe, choć nigdy naprawdę tego nie robił.

Fundamentalne pytanie brzmi:

CZY NIE PRZERAŻA WAS ŚWIAT, W KTÓRYM ALGORYTM DOSKONALE WIE, NA CZYJE KONTO PRZELAĆ PIENIĄDZE ZA SFAŁSZOWANĄ REKLAMĘ, ALE GDY OFIARA DOMAGA SIĘ USUNIĘCIA SZKODLIWEGO FEJKA, BOT STAJE SIĘ „BEZRADNY”? A Wy z nim?

Napisałem to WIELKIMI LITERAMI, bo walka ze zjawiskiem, a właściwie z bezczelnym, złodziejskim i oszukańczym SYSTEMEM – zwanym dla niepoznaki „modelem gospodarczym cyfrowego świata” - któremu poświęcam ten tekst, ma fundamentalne znaczenie dla naszej przyszłości. Jeśli przegramy tę batalie, nikt nie będzie mógł czuć się bezpieczny, ani… niewinny. Będzie dokładnie jak u Orwella i Kafki.

Jestem pewien, że nasz Rafał Brzoska prezentuje w tej kwestii trafniejsze – a zarazem odważniejsze – podejście niż Włoszka Georgia Meloni. I nie ukrywam, że mu kibicuję.

Kto zarabia na deep fake, a kto za to (nie)odpowiada

Od zarania dziejów jedną z metod stosowanych przez przestępców w celu zdobycia zaufania ofiary i wyłudzenia od niej czegoś cennego jest podszywanie się pod znane postaci lub powoływanie się na rekomendacje znanych osób. W erze cyfrowej proceder stał się masowy – i bajecznie łatwy. Zwykle jednak w debatach i publikacjach poświęconych temu zjawisku zwraca się uwagę na jedną tylko stronę, czyli twórców bandyckiego kontentu. Przy pomocy najnowszych technologii napędzanych algorytmami sztucznej inteligencji potrafią oni wykreować nie tylko dowolne zdjęcie, ale i dowolny film – z wizerunkiem konkretnej osoby z jej naturalnymi gestami, naturalnym otoczeniem i naturalnym sposobem mówienia.

Deep fake stosowany jest już przez cyberzłoczyńców we wszystkich obszarach, m.in. w celu siania zamętu politycznego, społecznego i gospodarczego, zareklamowania i uwiarygodnienia piramid finansowych i innych fajkowych usług oraz wyłudzenia konkretnych kwot, rzeczy lub zbiorów danych, które stały się w erze cyfrowej nowym złotem.

Zespół cyberbezpieczeństwa Komisji Nadzoru Finansowego (CSIRT KNF) od wielu miesięcy ostrzega użytkowników najpopularniejszych mediów społecznościowych przed fałszywymi reklamami z rzekomym udziałem znanych influencerów i polityków (m.in. prezydenta i premiera). Zwykle te oparte na deep fake anonse dotyczą możliwości szybkiego pomnożenia gotówki. W najbardziej zaawansowanej wersji „reklama” odsyła użytkowników iphonów do… oficjalnego sklepu Apple w celu pobrania aplikacji służącej do wyłudzania danych niezbędnych do rujnowania ofiar – okradania ich kont bankowych, zaciągania na nie kredytów itd. W wersji uproszczonej deep fake służy po prostu do generowania ruchu w internecie, by przykuć uwagę jak największej liczby ludzi do trefnej oferty.

W erze analogowej sprawa była bardzo prosta i prawnie uregulowana. W mojej pierwszej redakcji odpowiedzialność za tworzenie i publikowanie treści spoczywała na wydawcy i funkcyjnych redaktorach. Mieli oni obowiązek sprawdzić wiarygodność i rzetelność wszystkich informacji PRZED ICH PUBLIKACJĄ, ba, musieli zadbać o to, by publikowane treści (nawet prawdziwe) nie rodziły zagrożeń dla porządku publicznego, nie godziły w ludzką godność, ani w polską rację stanu; ewentualne spory w tym obszarze rozstrzygały sądy.

W praktyce, gdyby ktoś przybiegł do redakcji z wieścią o śmierci Jerzego Stuhra, jako redaktorzy z miejsca sprawdzilibyśmy wiarygodność tej informacji – u pewnych źródeł (najbliższej rodziny, ewentualnie najbliższych przyjaciół, albo w szpitalu, gdzie się leczył). Dopiero stuprocentowa pewność pozwalała nam cokolwiek napisać i opublikować. Co istotne – te same obwarowania dotyczyły zamieszczanych przez nas reklam i ogłoszeń. Nasz dział prawny każdorazowo weryfikował, czy nie naruszają one w żaden sposób porządku prawnego.

Po przeniesieniu większości swej aktywności do internetu „stare” (dawniej papierowe) media nadal trzymają się tych wypracowanych przez lata zasad: dokładnie weryfikujemy wszystkie publikowane przez siebie treści, zarówno informacje i publicystykę, jak i tzw. kontent promocyjny i reklamowy. Dotyczy to i wydań papierowych, i kontrolowanych przez nas serwisów internetowych. Podobną praktykę przyjęły największe działające w Polsce serwisy informacyjne, które nigdy nie wydawały papierowych gazet, a powstały od razu jako media cyfrowe; podlegają, jak my, m.in. prawu prasowemu). Zasada jest prosta: kto tworzy treści i je publikuje, ten na nich zarabia, a jednocześnie w pełni za nie odpowiada.

Sprawa komplikuje się w serwisach społecznościowych należących do globalnych gigantów technologicznych: notorycznie wykorzystywane są w nich treści tworzone przez innych; przeważnie tekst, który napisał dziennikarz zatrudniony w wiarygodnej redakcji, napędza większość ruchu na stronach bóg-techów, niezmiernie rzadko zdarza się, że hitowego „njusa” opublikuje ktoś spoza kręgu profesjonalnych dziennikarzy. Kompletnie pogrzebana tutaj została także zasada, że kto tworzy treści, ten na nich zarabia: ruch generowany w serwisach przez nasze treści służy do zarabiania pieniędzy przez globalnych gigantów. Mocą monopolistów narzucili oni światu takie mechanizmy publikowania i wyświetlania reklam, że zdecydowana większość dochodów trafia do ich kieszeni. Równocześnie nie poczuwają się do odpowiedzialności za publikowane treści.

A jeśli „njus” to fejk? Kłamstwo, oszustwo, brednia?

Jeśli coś takiego opublikują profesjonalne redakcje (gazety, portale informacyjne), co incydentalnie się zdarza, to ponoszą wszelką odpowiedzialność karną, cywilną, finansową. W Polsce autor i redaktor naczelny mogą nawet pójść do więzienia. Odszkodowania bywają słone. Obowiązek usunięcia fejkowej treści powstaje w zasadzie natychmiast (służą temu stosowne procedury). A wszystko w majestacie polskiego i europejskiego prawa, pod kontrolą odpowiednich organów, przede wszystkim – sądów. Co istotne – do każdej redakcji możesz się błyskawicznie dodzwonić, w sekundę dowiesz się, do kogo wysłać mejla. I po drugiej stronie słuchawki lub internetowego łącza zawsze będzie człowiek.

Jeśli fejka - kłamstwo, oszustwo, brednię – opublikuje któreś z globalnych mediów społecznościowych, wtedy te wszystkie prawa i zasady są nagle zawieszone.

  • medium, w którym opublikowano fejka, „nie odpowiada za treść” (choć zarabia na wyświetleniach!)
  • medium ma siedzibę poza Polską, a często i Europą, więc obowiązują je przepisy, dajmy na to, stanu Kalifornia lub Singapuru
  • medium oferuje ci co najwyżej kontakt z botem, który – jak wspomniałem dużymi literami – doskonale wie, na czyje konto przelewać pieniądze za wyświetlanie trefnych reklam przy fejkowym info, ale proszony o rozwiązanie problemu oszukańczych treści – przeistacza się nagle w dwutygodniowe niemowlę. I gadaj z takim.

Ojciec i syn XXX, czyli Meloni ściga twórców fejkowego porno

Giorgia Meloni, jak miliony kobiet na świecie, padła ofiarą pornograficznego deep fake jeszcze zanim stanęła na czele rządu Italii. Włoscy śledczy ustalili, że filmy z jej rzekomym udziałem zostały spreparowane i umieszczone w amerykańskim serwisie porno, gdzie były dostępne przez kilka miesięcy. Obejrzało je miliony odbiorców na całym świecie. Zarzut zniesławienia (z powództwa cywilnego obecnej premierki) usłyszeli dwaj mężczyźni: 73-latek i jego 40-letni syn. W świetle włoskiego prawa, za wykorzystanie deep fake (sprawcy wstawili wizerunek ofiary do filmów pornograficznych) i opublikowanie sfałszowanego materiału grozi im nawet więzienie. Meloni domaga się 100 tys. euro zadośćuczynienia, które zamierza przekazać fundacji wspierającej ofiary cyberprzemocy. Szacuje się, że 96 proc. wszystkich deep fake'ów ma charakter pornograficzny, a ofiarami są w zdecydowanej większości kobiety.

W pozwie Georgia Meloni wyjaśnia, że "chce wysłać sygnał wszystkim kobietom, które są ofiarami tego rodzaju nadużyć, aby nie bały się wnosić oskarżenia”.

Dochodzenie w tej sprawie trwa od 2020 r. Ciągnie się piąty rok, choć dotyczy najważniejszej obecnie osoby w jednym z najsilniejszych gospodarczo państw Europy i świata. Co istotne – ścigani są tylko dwaj pornogagatkowie.

No, to wyobraźmy sobie sytuację, w której świntuchy tworzą taki film i przyłażą, dajmy na to,do DGP, Forsala, Rzepy, Wyborczej, Onetu, Wirtualnej Polski i Interii z prośba o publikację „sensacyjnego materiału rzucającego – dosłownie – mnóstwo światła na intymne sprawy premierki Włoch”, a my to wszyscy publikujemy i zarabiamy kupę kasy na reklamach wyświetlanych dzięki milionom odsłon. A kiedy ofiara w końcu krzyczy, że to fejk i zniesławienie, odpowiadamy jednogłośnie: to nie my! To ci dwaj zboczeńcy! Ścigajcie ich!

Absurd?

No, ale przecież właśnie w takim absurdzie żyjemy od lat. Ba, brniemy w niego, że tak się wyrażę, głębiej i głębiej.

Rząd Włoch pracuje nad przepisami regulującymi m.in. publikowanie fałszywych treści generowanych z wykorzystaniem sztucznej inteligencji. Unijne regulacje dotyczące AI nie delegalizują deepfake, ale nakładają szereg obowiązków zarówno na twórców, jak i właścicieli platform internetowych.

Jednakowoż w praktyce…

Brzoska vs. bezkarność Bóg-techów

„Przychodzi taki moment w życiu każdego z nas, że mówimy DOŚĆ. Mówimy tak z wielu powodów, ale jednym z nich jest powiedzenie DOŚĆ łamaniu prawa, naruszaniu norm społecznych i czerpaniu korzyści finansowych z oczywistych przestępstw” – zagrzmiał tydzień temu w mediach Rafał Brzoska, twórca i szef jednej z najbardziej innowacyjnych i najskuteczniej rozpychających się w świecie polskich firm.

Jako adresata swej kampanii wskazał koncern META (właściciela Facebooka i Instagrama): „Dziś ze sponsorowanych (opłaconych) reklam na FB i Instagramie dowiedziałem się, że uśmiercono mi żonę, że ja pobiłem swoją ukochaną @Amma Omenaa Mensah, a na koniec Ją samą zaaresztowano. Dzwonicie i wysyłacie do nas linki do tych reklam - deep fejków - i pytacie, czy „u nas wszystko ok”? Tak, jest ok, ale nie mamy już wątpliwości, że komuś zależy na tym, by nasz wizerunek publiczny zniszczyć, że komuś przeszkadza nasz wielki europejski sukces filantropijny, (…) który wspólnie z polskimi przedsiębiorcami utworzyliśmy , by pomagać kilkudziesięciu tysiącom ludzi (…). Komuś być może przeszkadza nasza pomoc Ukrainie i zaangażowanie w sprawy ważne dla państwa polskiego” – napisał Rafał Brzoska.

Jego wnioski są nieco inne niż Georgii Meloni, albowiem domaga się ścigania nie tylko twórców fejków, ale i rozliczenia platform publikujących oszukańcze treści:

„Wierzę, że organy ścigania dorwą tych, którzy za tym stoją, a ja zamierzam dorwać tych, którzy czerpią z tych przestępstw korzyści finansowe - chociażby w postaci reklam. Nie spocznę, dopóki wielki koncern socialmediowy nie zmieni swojego podejścia do krzywdzenia ludzi i współuczestnictwa w szarganiu wizerunku osób publicznych, zasłaniając się swoim wydumanym regulaminem”. Zwraca uwagę, że żaden bazujący na fejkach przestępca nie osiągnąłby celu „bez wsparcia zasięgów reklamowych FB i IG”.

Zastanawia się przy tym, czy gdyby przestępcy rozpowszechniali deep fejki o tym, że „Mark Zuckerberg lub któryś z czołowych menedżerów META umarł, pobił swoją żonę i dzieci lub jest pedofilem i złodziejem”, to też spotkałoby się to z taką sama reakcją META. Czyli – jak podkreśla Brzoska – „z brakiem reakcji”.

Wcześniej szef InPost opisywał swoje perypetie z działem obsługi giganta, swą totalną bezradność w zderzeniu z brakiem skutecznej reakcji w duchu „to nie my” i „robimy, co w naszej mocy, ale sam pan widzi”. Warto zważyć, że rozpaczliwe apele o podjęcie działań naruszających dobra osobiste, przyzwoitość i liczne paragrafy kodeksów opublikował człowiek o wyjątkowej pozycji ekonomicznej i społecznej, zamożny i wpływowy.

A co może tu zrobić szary Kowalski i pomarańczowa Malinowska? Co wskóra w „rozmowie” z botem?

Zrozumienie grozy sytuacji jest w Polsce coraz większe, więc do batalii Brzoski przyłączył się w minioną środę niemal cały rodzimy biznes. Rada Polskich Przedsiębiorców (przy Pracodawcach RP), wraz z Konfederacją Lewiatan, Polską Radą Biznesu i Związkiem Banków Polskich zaapelowały do Ministra Sprawiedliwości „o zdecydowaną walkę z publikowanymi fałszywymi informacjami (fake news) oraz mową nienawiści (hate speech)”, zwracając uwagę, że „praktyki te mogą prowadzić do poważnych problemów emocjonalnych i psychicznych, szczególnie wśród dzieci i młodzieży. Obiektem hejtu i fake newsów są też przedsiębiorcy jak również związane z nimi spółki, fundacje i stowarzyszenia, którym przysługuje prawo do ochrony dobrego imienia”.

Sygnatariusze apelu zdają sobie sprawę, że nie da się skutecznie walczyć z rozprzestrzeniającym się błyskawicznie procederem bez regulacji prawnych, które nadążą wreszcie za zmianami, jakie wywróciły do góry nogami media w XXI wieku. Domagają się od Adama Bodnara m.in.

  • zmian w kodeksie karnym i cywilnym, które uniemożliwią miganie się od odpowiedzialności podmiotom mającym de facto mają kluczowy udział w rozprzestrzenianiu fejków
  • niezwłocznego zakończenia prac nad nowelizacją Ustawy o świadczeniu usług drogą elektroniczną (…) w celu zapewnienia pełnego wykorzystania narzędzi przewidzianych przez unijny Akt o usługach cyfrowych („DSA”).
  • wprowadzenia dodatkowych przepisów, nie objętych DSA, zobowiązujących pośredników internetowych do pobierania i przechowywania danych użytkowników zamieszczających treści w celu ułatwienia dochodzenia prawa przez pokrzywdzonych

Wzywają też wszystkie media do zawarcia porozumienia w sprawie wspólnego zwalczania nielegalnych i szkodliwych treści (w tym, deep fake, dezinformacji i mowy nienawiści). W jego ramach sygnatariusze mieliby się zobowiązać do:

  • natychmiastowej reakcji na zgłoszenia dot. deep fake, dezinformacji czy mowy nienawiści nie później niż w ciągu 24 godzin od otrzymania zgłoszenia;
  • stosowania algorytmów filtrujących i blokujących nienawistne treści, w szczególności w przypadku masowego hejtu;
  • wyznaczenia zespołu moderatorów odpowiedzialnych za wychwytywanie treści o charakterze mowy nienawiści;
  • udostępniania przestrzeni do komentowania dla zarejestrowanych użytkowników.

Sęk w tym, że zastosowanie tych wszystkich rozwiązań doprowadzi do - bolesnego dla właścicieli globalnych platform społecznościowych - ograniczenia obecnego modelu gospodarczego. Polega on na czerpaniu niewyobrażalnych zysków z klików – czyli ruchu generowanego w sieci niezależnie od jakości i wiarygodności treści. Ba, można wręcz powiedzieć, że z biegiem lat - i setek miliardów na kontach bóg-techów – ukształtowała się swego rodzaju zależność odwrotna: im niższa jakość i wiarogodność, tym większy ruch i tym większe zyski. W analogowym świecie znaliśmy to z tabloidów. W cyfrowym – tabloidalne treści były skazane na sukces mocą samych algorytmów. Teraz spośród nich wysforowały się na czoło te fejkowe.

Model oszukańczy i nakręcający nienawiść

Wedle obserwacji naukowców, trudno o środowisko bardziej sprzyjające tworzeniu i rozprzestrzenianiu się fałszywych wiadomości niż media społecznościowe. To współczesny magiel – z tym że tamten miał swoje granice. A ten – nie. Nikt mu ich nie wyznaczył.

Mechanizm PROFEJKOWY działa tak: im więcej dany post lub filmik ma polubień, serduszek czy kciuków w górę, tym większe prawdopodobieństwo, że zostanie zauważony przez innych, a tym samym będzie lubiany, udostępniany, komentowany. W teorii wzorzec ten jest neutralny: działa tak samo niezależnie od tego, czy treści są fałszywe, czy prawdziwe. W praktyce – jak wynika z licznych badań - ludzie dzielą się fałszywymi wiadomościami o wiele częściej niż prawdziwymi. Przy czym – prawie NIKT nie weryfikuje prawdziwości „njusów”. De facto – najchętniej przyjmuje i puszcza w świat te, które są najbardziej zgodne z jego przekonaniami, wizją świata, a najlepiej – strachami i fobiami.

Niedawno wspominałem o zdemaskowaniu przez PoliticiFact, jeden z amerykańskich serwisów walczących z kłamstwami w sieci, 28-letniego Jamesa McDaniela z Clearwater. Mężczyzna okazał się twórcą ogromnej ilości kompletnie fałszywych treści uderzających w polityków Partii Demokratycznej i ich zwolenników. Publicznie przyznał się do tego, że wszystkie sensacje wyssał z palca – trochę dla zabawy, a trochę po to, by sprawdzić, jaki rezonans ma w świecie social mediów brednia i plotka. Efekty przeszły jego najśmielsze oczekiwania.

Co ciekawe, największymi hitami sieci okazały się wiadomości, które uważał za „zbyt szalone, by ktokolwiek mógł w nie uwierzyć”. Np. historia o tym, że „Obama wyprowadził z Białego Domu siatkę pedofilów”, albo o rzekomym ujawnieniu przez Juliana Assange’a (twórcę WikiLeaks) powiązań Hillary Clinton (zwanej przez trumpistów „Killary”) z tzw. Pizzagate – popularną wśród Republikanów teorią spiskową, wedle której Demokraci potajemnie prowadzą siatkę pedofilów w pizzerii w rejonie DC. Wszystkie te wieści były momentalnie podchwytywane i rozpowszechniane w milionach postów przez grupy fanów Donalda Trumpa na Facebooku. Analitycy mediów podkreślają, że przyczyniły się one walnie do radykalizacji nastrojów i nakręcania spirali nienawiści wobec Demokratów i ich zwolenników oraz „zepsutych amerykańskich elit” (oczywiście – Trump nie jest częścią elit).

Co ciekawe, McDaniel na dole wszystkich swoich fejkowych stron umieścił zastrzeżenie, iż jego wpisy „są fikcją i prawdopodobnie fałszywymi wiadomościami”. Tylko kilka osób spośród milionów rozsyłających treści spytało go mejlowo o wiarygodność informacji. Reszta słała wszystko jak leci bez żadnej refleksji i weryfikacji.

McDaniel zlikwidował stronę po tym, jak jedna z jego fałszywych informacji skłoniła znanych republikanów i sprzyjających im publicystów do formułowania nienawistnych komentarzy w telewizji Fox i innych mediach, a nawet w Kongresie. Analitycy PoliticiFact zauważają, że w tym samym czasie powstało kilkanaście tysięcy bliźniaczych stron, których autorzy tworzą masowo fejki siejące nienawiść. Kolejnym źródłem takich treści są ruskie, irańskie i północnokoreańskie farmy trolli. Nośnikami fejków są również boty i ciasteczka służące do mikrotargetowania, czyli algorytmy sztucznej inteligencji – bardzo zaawansowane i coraz lepiej udające w sieci społecznościowej zachowania ludzi, wchodzące w interakcje (w tym lajkujące), pomagające rozpowszechniać fejki i zawyżać ich popularność w socjal mediach; jak wiadomo, ludzie ciągną tam, gdzie już są ludzie…

W efekcie tak skalibrowanych algorytmów, fejki tworzone przez złoczyńców generują w mediach społecznościowych ruch jeszcze skuteczniej niż prawdziwe wiadomości pisane przez profesjonalnych dziennikarzy. Model gospodarczy bóg-techów od początki wzmacnia to zjawisko, zgodnie z zasadą, że im więcej emocji, tym więcej zaangażowania użytkowników, a im więcej zaangażowania użytkowników, tym większy ruch w sieci, a więc i wyświetlonych reklam oraz – finalnie – PIENIĘDZY. Nienawiść jest emocją na tyle mocno stymulującą ruch w internecie, że po prostu WARTO inwestować w algorytmy, które ją nakręcają.

Na tym właśnie polega ów cyfrowy MODEL GOSPODARCZY. Rafał Brzoska nie wypowiedział wojny anonimowym pracownikom METY, z którymi w potrzebie – mimo że należy do najbogatszych Polaków i wielu ludzi z META zna osobiście - nie mógł się skontaktować (ostatecznie odpowiedzieli mu jako tajemnicze „Biuro”). Wypowiedział ją modelowi gospodarczemu, któremu technologiczni giganci zawdzięczają lwią część swych zysków.

Media trzymające się zasad są dziś – z oczywistych względów - po stronie szefa InPostu. Ale niebawem może ich nie być. Okradane z wiarygodnych treści, a więc i przychodów generowanych dzięki reklamom towarzyszącym tym treściom, po prostu się zwiną.

Zostaną wtedy tylko fejki. I „rozmowy” z botem, który wie, jak cię zmonetyzować, ale kiedy upomnisz się o swoje prawa, nie ma pojęcia, o co ci chodzi.