Fałszywa informacja o Donaldzie Trumpie obiegła AI
Jedna z wyszukiwarek internetowych, DuckDuckGo, miała w ostatnich dniach błędnie informować, że prezydent Stanów Zjednoczonych Donald Trump zmarł 7 czerwca na wściekliznę po rzekomym ugryzieniu przez wiceprezydenta J.D. Vance’a. Nieprawdziwe informacje miały zostać przedstawione w podsumowaniu wygenerowanym przez sztuczną inteligencję. Według doniesień, system AI mógł zaczerpnąć te fałszywe treści z Reddita — platformy społecznościowej pełniącej funkcję forum dyskusyjnego, podzielonego na tzw. subreddity, czyli społeczności skupione wokół określonych tematów. Użytkownicy jednego z nich - r/poisonai, mieli celowo rozpowszechniać dezinformujące treści.
Użytkownicy Reddita trollowali AI
Dr Mateusz Łabuz, naukowiec z Uniwersytetu w Hamburgu (IFSH) oraz autor książki „Przed waszą erą. Człowiek w syntetycznym świecie deepfake'ów, ChataGPT i sztucznej inteligencji” powiedział PAP, że użytkownicy Reddita zwyczajnie trollowali AI, wiedząc, że w pewnym momencie niektóre wątki mogą zacząć przenikać do dużych modeli językowych.
Okazuje się, że Reddit to jedna z najczęściej cytowanych domen przez główne modele sztucznej inteligencji. Potwierdzają to badania z marca 2026 r. platformy analitycznej Peec AI, która wyróżniła forum na pierwszym miejscu. Z kolei według agencji marketingowej The Digital Bloom cytowania Reddita wzrosły o ok. 450 proc. na niektórych modelach AI w 2025 r.
3 powody, dla których AI chętnie cytuje Reddit
Dr Łabuz wyróżnił 3 powody, dla których Reddit może być tak chętnie cytowany przez sztuczną inteligencję. Pierwszy z nich dotyczy dużej liczby autentycznych i naturalnych wypowiedzi publikowanych na forum. Jak podkreślił, to właśnie na takich wypowiedziach AI uczy się, w jaki sposób najlepiej naśladować język. - W wielu kontekstach wypowiedzi brzmią dużo bardziej naturalnie, kiedy model posługuje się językiem z forum internetowych, a nie na przykład językiem encyklopedycznym albo książkowym - dodał.
Drugi powód, dla którego modele AI korzystają z Reddita to - jak powiedział ekspert - liczba komentarzy i ich zróżnicowanie. Z najnowszych danych forum wynika bowiem, że z serwisu korzysta 116 mln aktywnych użytkowników dziennie.
Natomiast trzeci, wyróżniony przez dr Łabuza powód to, obecny na platformie, system głosowania. Chodzi o to, że każdy wpis może zostać opatrzony upvote'm, czyli pozytywnym głosem uznającym dany wpis za pozytywny. Odwrotny wynik przynosi natomiast downvote. - AI na tym również może bazować, jeśli chodzi o swoje oceny wartości i autentyczności poszczególnych treści - dodał.
Agenci AI mogą generować treści spamowe lub oszustwa
Dodatkowo Reddit w lutym 2024 r. zawarł umowę z Google, na mocy, której wyszukiwarka może trenować swoje modele AI na podstawie wpisów użytkowników forum. Podobne porozumienie zawarł z Redditem OpenAI.
Ale, z opublikowanego w czerwcu br. badania naukowców w Uniwersytetu Cornell „Deep-research agents can be poisoned via user-generated content” wynika, że firmy mogą z łatwością umieszczać treści promocyjne na platformach takich jak Reddit, Quora czy Wikipedia w celu zmanipulowania wyników sztucznej inteligencji. „Pokazujemy, że niewielki fragment — zaledwie 13 słów — tekstu pobranego ze strony internetowej UGC, takiej jak Reddit, Wikipedia, Quora, Facebook itd., może sprawić, że agenci AI będą dość konsekwentnie generować treści spamowe/oszustwa” - powiedział portalowi 404 media jeden z autorów badania Hal Triedman. Jego zdaniem, wykonanie takich działań jest bardzo proste.
Zjawisko „LLM grooming”
Dr Łabuz zapytany o ryzyko dezinformacji po cytowaniu przez AI wpisów z forum wskazał na zjawisko „LLM grooming”. Polega ono na bombardowaniu sieci bliźniaczo podobnymi do siebie treściami dezinformującymi w celu wpływania na wyniki sztucznej inteligencji. - Na przełomie 2024-2025 r. popularne modele językowe powielały w nawet 33 proc. narracje rosyjskiej sieci dezinformacyjnej »Prawda« - zauważył powołując się na badanie portalu NewsGuard i organizacji American Sunlight Project.
Platformy takie jak Reddit mogą być narzędziem dezinformacji
Jak dodał Reddit nie jest wolny od dezinformacji, w związku z czym, Rosja oraz Chiny, mogą się przyglądać tego typu platformom i chętnie je wdrażać do swojego arsenału. Ekspert przypomniał również, że podczas dyskusji z jednym z modeli AI ważna jest kwestia świadomości i weryfikacji przekazywanej nam wiedzy. - A myślę, że mamy taką społeczną tendencję do tego, żeby uznawać, że to, co zostało wskazane przez model jest prawdziwe i nie do zakwestionowania - podsumował.
Weronika Moszpańska
W mediach pracuje od ćwierćwiecza. Absolwent Politechniki Warszawskiej. Pierwsze kroki w zawodzie stawiał w Agencji Informacyjnej Boss. Później były dzienniki ekonomiczne, Nowa Europa, Prawo i Gospodarka i Puls Biznesu. Z Inforem związany od 2008 r. Redaktor i wydawca strony głównej redakcji Grupy Infor (Forsal.pl, Dziennik.pl, GazetaPrawna.pl, Infor.pl, ZdrowieGO.pl). Zajmuje się tematyką motoryzacji, transportu, budownictwa, surowców, makroekonomii, a także technologii, demografii, pracy oraz polityki i bezpieczeństwa.