Człowiek w pętli, czyli co umie dziś sztuczna inteligencja, a czego pewnie nigdy się nie nauczy

Programiści są przerażeni. Księgowi są przerażeni. Tłumacze są przerażeni… Mogę tak wymieniać godzinami. Białe kołnierzyki coraz intensywniej testują możliwości kolejnych odsłon zaawansowanych modeli sztucznej inteligencji i przekonują się na własne oczy, „co toto potrafi”. Równocześnie wszyscy jesteśmy epatowani niebywałymi osiągnięciami i postępami AI oraz straszeni dystopijnymi przepowiedniami wymknięcia się algorytmów spod kontroli. Z drugiej strony mamy technoentuzjastów pokroju Elona Muska roztaczających przed nami wizje powszechnej szczęśliwości, jaka rzekomo wkrótce nastanie na świecie dzięki rozwojowi technologii, przede wszystkim sztucznej inteligencji.

Magia AI: wszyscy ludzie na Bahamach (albo totalna zagłada)

Na niedawnym kongresie „Man vs. Machine” zorganizowanym przez ASPIRE, stowarzyszenie największych globalnych firm technologicznych mających oddziały w Krakowie i innych zakątkach Polski, w prezentacji otwierającej pokazałem, że dwa obozy próbują nas wbijać w szczelinę między obietnicą permanentnych wakacji a wizją zniszczenia świata. I to już w perspektywie 2030 r. Na pytanie, gdzie będzie człowiek za trzy lata z hakiem, optymiści odpowiadają: „Na Bahamach”, a pesymiści: „Nie będzie człowieka”. Pierwsi wieszczą raj, w którym (ro)boty odwalają za ludzi – białe, niebieskie i szarek kołnierzyki - całą robotę, a dobre bóg-techy dzielą się owocami tej rewolucji z każdym człowiekiem na Ziemi. Drudzy ostrzegają przed Armagedonem spowodowanym buntem maszyn.

Szczęśliwie, coraz więcej z nas ma świadomość, że w dzisiejszym świecie technologia wpływa (lub próbuje wpływać) nie tylko na to, jak pracujemy, ale też na to, jak myślimy i co myślimy. Właścicielom firm technologicznych z oczywistych powodów zależy, byśmy uwierzyli w potęgę algorytmów, nad którymi pracują, bo potrzebują kolejnych miliardów dolarów na swe dalsze funkcjonowanie – a nie pozyskają ich, jeśli obietnica przyszłych bajońskich zysków z tej inwestycji nie będzie wystarczająco wiarygodna. Albo – jeszcze lepiej - emocjonująca.

Technologie i dwie przewagi człowieka nad resztą świata

Pod względem materialnym żyjemy w najlepszym ze światów w dziejach. Między 1826 a 1926 r. odsetek ludzi cierpiących ubóstwo spadł z 95 do 75 proc., a między 1926 a 2026 – z 75 do niespełna 10 proc. 10 procent to nadal dużo. Ale zarazem rekordowo mało:

• · 100 lat temu żyły 2 mld ludzi, z czego 1,5 mld w nędzy.
• · Dziś żyje ponad 8 mld ludzi, z czego 650 mln w nędzy.

Ten genialny cywilizacyjny postęp zawdzięczamy rozwojowi TECHNOLOGII. Ona dziś:

• · zapobiega śmiertelnym chorobom i pomaga je leczyć.
• · pozwala nam wytwarzać żywność i inne dobra na niespotykaną skalę.
• · umie nas zastąpić tam, gdzie praca jest niebezpieczna lub ciężka.
• · pozwala nam wytwarzać energię potrzebną do życia całej ludzkości.

Wielu z nas pamięta jednak, że zanim człowiek uruchomił pierwszą elektrownię atomową – najpierw w 1954 roku Związku Sowieckim, potem w Wielkiej Brytanii i USA - użył technologii do zdetonowania dwóch śmiercionośnych bomb. Owszem, wielu z nas wierzy, że było to konieczne dla zaprowadzenia pokoju i obrony wolności, ale ta kolejność użycia musi nam dawać do myślenia. To dlatego tak łatwo straszyć nas możliwościami AI. Tym bardziej, że ona NAPRAWDĘ wiele umie. Gdybym polecił jej przetłumaczyć niniejszy tekst na angielski, francuski, albo suahili, zrobiłaby to w mgnieniu oka, czyli szybciej niż jakikolwiek ludzki tłumacz na świecie. Gdybym kazał jej streścić i podsumować ten tekst – zrobi to jeszcze szybciej. Gdybym chciał z jej pomocą namalować grafikę lub obrazek do niniejszej publikacji, albo „nakręcić” stosowną rolkę wideo udając, że jestem na Bahamach – wystarczy zapromptować i kliknąć.

Czyli w zasadzie nie potrzebuję ludzkich tłumaczy (algorytmy potrafią już symultanicznie ogarnąć całe konferencje), sekretarzy / asystentów, ani grafików. Z jednym istotnym zastrzeżeniem: do typowych zadań. I z drugim, jeszcze bardziej fundamentalnym: że cały czas to ja o wszystkim decyduję. Sprawdzam, oceniam, poprawiam, przetwarzam, publikuję.

Pierwsze zastrzeżenie jest ważne, bo nie wyobrażam sobie LLM-a, który potrafi stworzyć tak fantastyczną polską wersję zagranicznych dialogów, jak Bartosz Wierzbięta w „Shreku” czy „Pingwinach z Madagaskaru”. To jest sztuka. Kod kulturowy. Czyli coś totalnie ulotnego i zarazem ekstremalnie ludzkiego. Jak dowcip. Andrew Hallam, lider ASPIRE (serdecznie pozdrawiam!), kazał mi na anglojęzycznej konferencji opowiedzieć po polsku purenonsensowy dowcip o wróbelku: Czym różni się wróbelek? Tym, że ma jedną nóżkę bardziej. Oczywiście, AI, zwłaszcza w najnowszym wydaniu, wyjaśni, a nawet przetłumaczy ten żart na dowolny język, ale… Chyba wiecie, o co tutaj chodzi.

Tu wracam do pytania z leadu: czy wiecie, jaka jest kluczowa przewaga człowieka nad wszystkim, co znamy na Ziemi i poza Ziemią?   

Człowiek podporządkował sobie świat dzięki umiejętności abstrakcyjnego myślenia i tworzenia fikcji. Pozwoliło to na elastyczną współpracę w ogromnych grupach. Zapewne jako jedyne istoty w Układzie Słonecznym potrafimy jednoczyć się wokół idei, takich jak religia, państwo, pieniądze, etyka czy prawo.

Nasza największa obawa bierze się dziś stąd, że liderzy i lobbyści bóg-techów wmawiają nam, iż stoimy u progu oddania maszynom tych naszych wyjątkowych kompetencji. Co byłoby oczywistym krokiem w kierunku zastąpienia nas w funkcjach i rolach zarezerwowanych dotąd dla ludzi. Zarazem boimy się, że AI jest narzędziem innym niż młotek, bo ostatecznie sama zdecyduje, czy wbić gwoździa w ścianę, czy w ludzką czaszkę.

Czy te obawy i strachy mają jakiekolwiek pokrycie w rzeczywistości? Nie!

Człowiek w pętli (decyzyjnej). Na zawsze

Na wspomnianej konferencji „Man vs. Machine”, którą miałem przyjemność moderować, prowadziłem m.in. arcyciekawy panel „Human in the Loop: Who Draws the Line?” (Czlowiek w pętli. Kto wytycza granice”). Człowiek w pętli to – mówiąc najprościej – koncepcja, wedle której człowiek, niezależnie od zaawansowania technologii, jest zawsze kluczowym ogniwem w procesie decyzyjnym. Czyli: nigdy nie oddajemy całego procesu nawet „najmądrzejszej” (najlepiej wyszkolonej) maszynie. Tak niedawno zrobił Ford w obszarze kontroli jakości swoich aut, i mocno się na tym – nomen omen – przejechał (pisałem o tym kilka tygodni temu).

W przywołanym panelu Krystian Sperka z Tenarai Europe pokazał na prostym slajdzie, jak od chwili utworzenia jego firmy w 2020 r. zmieniały się proporcje między pracą wykonywaną przez człowieka i przez algorytmy: „W 2020 roku jedna osoba napisała każdą linię kodu. W 2024 roku człowiek poprawiał każde kolejne posunięcie. W 2025 roku człowiek weryfikował wynik. W 2026 roku człowiek zatwierdza intencję, ale to maszyna wykonuje pracę”.

Krystian podkreślił, że granica między tym, co robi człowiek, a co maszyna, będzie się zapewne nadal przesuwać, ale nie dlatego, że maszyna jest coraz sprytniejsza. „Technologia nie ma opinii, gdzie powinna skończyć się jej rola”. Za każdym razem to człowiek decyduje, jakie zadania powierzyć algorytmom i co zostawić sobie. To de facto on musi zadać o to, aby cały proces pozostał bezpieczny i w pełni kontrolowany przez człowieka. Krystian nazwał to „uprzężą wokół technologii”. Tworzymy ją my, ludzie – poniekąd na tej samej zasadzie, jak wtedy, gdy rąbiąc drzewa w lesie dbamy o to, by nie odrąbywać sobie palców. Podstawowy wniosek: Człowiek nie odchodzi z pętli, tylko AWANSUJE. Ok, potrzeba do tego mniej ludzi, ale o coraz wyższych kompetencjach. Nie technologicznych. Ludzkich.

W tym samym panelu Grzegorz Cempla z Ocado Technology podkreślił, że „to planiści ustalają zasady i wchodzą tam, gdzie modelowi nie należy ufać”. Zarazem niezwykle ważną częścią jego biznesowej historii była opowieść o Annie, która w drodze na dwie kolejne rozmowy rekrutacyjne w różnych firmach zobaczyła, jak pracownik Ocado zatrzymuje samochód i wyskakuje z niego, aby pomóc kobiecie, której rozerwała się torba i zakupy wyleciały na chodnik. Anna bez wahania poszła do Ocado i powiedziała, że chce tam pracować właśnie z powodu tego, co zobaczyła.

Żadna AI tego nie pojmie, podobnie jak nie załapie dowcipu. Choć potrafi go precyzyjnie opisać i wyjaśnić. Dokładnie to samo powtarzali drugiego dnia (w finałowym panelu o przywództwie w czasach, w których nie ma bezpiecznego gruntu dla liderów) menedżerowie globalnych korporacji, Eynat Guez, Deepak Gupta i Stephane Bernard:

• AI jest narzędziem umożliwiającym rozwiązywanie problemów, a nie odpowiedzią na problemy. Udana transformacja cyfrowa polega na łączeniu technologii z kompetencjami ludzi.
• Technologia rozwija się i zmienia szybko, kreując nowe możliwości – ale to ludzie zawsze decydują o efektach.
• Przywództwo wymaga ludzkiego rdzenia. W świecie tak dynamicznych zmian i coraz większego deficytu pewności, jasny cel stawiany przez człowieka, jego wartości, empatia i odwaga do podejmowania decyzji, zwłaszcza tych wymykających się zasadom i stereotypom, mają większe znaczenie, niż kiedykolwiek.

I mówi ulubiony wniosek (dzięki Eynat!):

• Kultura daje przewagę konkurencyjną.

Płynna inteligencja kontra sztuczna inteligencja

Dr Iwo Zmyślony, filozof, antropolog kultury i nauki, projektant zmiany, doradca biznesowy, ekspert ds. sztucznej inteligencji i HR, zauważa trzeźwo, że „dostępne dziś AI to potężne maszyny obliczeniowe, które realnie mogą przyspieszyć wiele procesów poznawczych, a nawet dokonywać odkryć w tym, co Thomas Kuhn nazywał „nauką normalną”. Czyli w obrębie wiedzy historycznej oraz przestrzeni możliwości wyznaczonych przez nią. To bardzo dużo. Nie są jednak w stanie dokonać przełomów – odkrywać nowej wiedzy o świecie rzeczywistym, pozamodelowym; wiedzy nierzadko sprzecznej z wiedzą posiadaną, czyli tego, co Kuhn nazwał rewolucją”.

Potrafi to tylko człowiek, bo tylko on dysponuje tzw. płynną inteligencją, czyli zdolnością do logicznego myślenia, analizowania nowych sytuacji i rozwiązywania problemów bez polegania na wcześniej nabytej wiedzy czy doświadczeniu. Płynna inteligencja służy do radzenia sobie z abstrakcyjnymi zadaniami (takimi jak łamigłówki logiczne, figury geometryczne czy testy typu macierze Ravena), a nie do odtwarzania faktów czy słówek, obejmuje pamięć operacyjną, elastyczność kognitywną oraz rozumowanie indukcyjne.

AI w obecnej formie „może poprawić procesy, może obniżyć koszty, redukować błędy – to wszystko jest wciąż możliwe. Ale do stworzenia sztucznej inteligencji ogólnej – takiej, co się autonomicznie umie uczyć i adaptować / zmieniać w dowolnym środowisku, na podstawie skąpych, nietypowych, jednostkowych danych, potrzeba inteligencji ludzkiej” – pisze Zmyślony. I dalej: „A ponieważ powyższe wynika z obiektywnych ograniczeń dostępnej technologii, nie trzeba się martwić o Chiny. No chyba, że one pierwsze wpadną na pomysł jak się robi AGI. Ale to spekulacja – nie jest to niemożliwe, choć może się zdarzyć równie dobrze za miesiąc, jak i za 100 lat albo nigdy. Po prostu nie wiemy – ludzkość po prostu nie wie, jak robić sztuczne życie i sztuczną inteligencję płynną”.

Dokładnie to samo głosi od ponad roku Yann LeCun, uważany za „jednego z ojców sztucznej inteligencji”, laureat Nagrody Turinga. Konsekwentnie podtrzymuje swój sceptycyzm wobec obecnych modeli językowych (LLM) i uspokaja w kwestii rzekomych zagrożeń egzystencjalnych ze strony AI. Wyraźnie odcina się przy tym od podejścia firm takich jak OpenAI, a swoją wizję przekuł w czyny, odchodząc z Meta i zakładając w marcu AMI Labs (Advanced Machine Intelligence Labs), na które zebrał ponad 1 miliard dolarów.

W ostatnich wywiadach (m.in. dla Fortune) oraz podczas konferencji we wrześniu i październiku stwierdził m.in. że:

1. Modele LLM to „droga donikąd”: budowanie coraz większych modeli językowych i karmienie ich wyłącznie tekstem nie doprowadzi nas do prawdziwej inteligencji na poziomie ludzkim. Podczas niedawnych wykładów (m.in. na Brown University) dosadnie stwierdził, że obecne systemy AI po prostu „ssą” („AI sucks”), a samo przewidywanie kolejnego słowa nie oznacza rozumienia świata. Na Linkedinie pisał o tym tak: „Sokrates, około 400 roku p.n.e., ostrzega o: iluzji inteligencji wywołanej gromadzeniem wiedzy pisanej: Dajesz swoim uczniom pozory mądrości, a nie prawdziwej mądrości, bo będą czytać wiele rzeczy bez instrukcji i dlatego będą zdawali się wiedzieć wiele rzeczy, podczas gdy w większości są nieświadomi i trudno z nimi współpracować, ponieważ nie są mądrzy, lecz jedynie wydają się mądrzy. Sokrates nie wiedział, że jego ostrzeżenie będzie dotyczyć LLM-ów. Wiele osób myli gromadzenie deklaratywnej wiedzy przez LLM z inteligencją nadludzką”. LeCun krytykuje uniwersytety i naukowców za marnowanie zasobów na rozwijanie LLM-ów, twierdząc, że to ślepa uliczka. Ponadto uważa, że obecne modele zupełnie nie nadają się do robotyki.
2. Przyszłością są „Modele Świata” (World Models): Zamiast generowania tekstu, LeCun stawia na architekturę JEPA (Joint Embedding Predictive Architecture). Jego zdaniem AI musi uczyć się tak jak ludzie i zwierzęta – poprzez obserwację wideo, analizę praw fizyki, czujniki i interakcję z otoczeniem. Prawdziwy przełom ma polegać na tworzeniu wewnętrznych, abstrakcyjnych reprezentacji rzeczywistości, co pozwoli maszynom przewidywać skutki własnych działań oraz logicznie planować zadania.
3. „Zero obaw” o zagładę ludzkości. W wywiadzie dla Fortune LeCun zadeklarował, że ma „zero obaw” co do tego, że AI mogłaby doprowadzić do wyginięcia ludzkości. Odrzuca czarne scenariusze kreowane przez szefów innych laboratoriów. Strach przed sztuczną inteligencją uważa za przejaw braku zaufania do samych ludzi. Twierdzi, że systemy przyszłości będą bezpieczne i kontrolowane „z założenia” (na poziomie architektury projektowej), a nie poprzez późniejsze sztuczne dopasowywanie
4. Pojęcie „AGI” to bzdura – nadchodzi ASI. LeCun skrytykował ostatnio popularny termin AGI (Ogólna Sztuczna Inteligencja). Stwierdził, że ludzka inteligencja wcale nie jest ogólna, lecz skrajnie wyspecjalizowana, a mówienie o AGI nie ma sensu. Zamiast tego woli mówić o systemach, które docelowo dorównają człowiekowi w różnych domenach i go przewyższą (ASI – Artificial Superintelligence). Zaznacza jednak, że proces ten będzie powolny i zajmie lata, a nie miesiące.
5. Wojna cybernetyczna i Agenci AI. W kwestii obaw o zmasowane cyberataki generowane przez autonomiczne AI, LeCun uważa, że choć technologia ułatwi ataki, to w ostatecznym rozrachunku agenci AI dadzą przewagę obronie, ponieważ systemy chroniące infrastrukturę będą dysponowały lepszymi zasobami i kompetencjami.
6. AI jako otwarta infrastruktura demokracji. LeCun mocno promuje podejście open-source. Wierzy, że asystenci AI staną się cyfrowym repozytorium całej ludzkiej wiedzy: „Aby nie dopuścić do sytuacji, w której cała globalna kultura i informacja są kontrolowane przez kilka korporacji z Doliny Krzemowej, modele muszą być całkowicie darmowe, otwarte i modyfikowalne przez różne kraje i społeczności, co jest kluczowe dla zachowania pluralizmu i demokracji”.

To ostatnie zdanie jest, w mej opinii, absolutnie kluczowe w globalnej – i polskiej - dyskusji o sztucznej inteligencji. To, czy czarny scenariusz się ziści, zależy de facto od zaangażowania obywateli i reprezentujących ich rządów. W obecnych realiach – jak zauważa Tadeusz Chełkowski z Adobe – trwa „ciche wywłaszczenie - firmy całego świata oddają się modelom, prompt po prompcie”, przekazując bóg-techom cały know-how, jaki decydował dotąd o ich przewadze konkurencyjnej. Zatrzymanie tego procesu, katastrofalnego dla gospodarek takich jak polska, wymaga ochrony danych nie tylko na poziomie poszczególnych firm, ale też, a nawet przede wszystkim, na gruncie prawnym. Ale jeśli całe państwa będą, jak dotąd, chodzić na garnuszku i smyczy bóg-techów, czyli kasty LUDZI, obudzimy się w dystopii, o jakiej nie śniło się nawet najbardziej pesymistycznym czarnowidczom.