W pierwszej dziesiątce najwyżej wycenianych startupów globu od roku dominują te, które zajmują się rozwijaniem modeli sztucznej inteligencji. Tuż za Anthropikiem jest OpenAI z wyceną blisko 900 mld USD, a podium zamyka chińska spółka ByteDance, znana najbardziej jako właścicielka TikToka, ale skupiająca się na rozwiązaniach AI (na czym zresztą opiera się TikTok). W gronie 30 najcenniejszych startupów na Ziemi większość to firmy ejajowe, a ich łączna wycena przekracza wartość gospodarek Włoch, Kanady czy Rosji – i zbliża się szybko do wartości gospodarki Francji, czyli 3,5 bln USD. A mówimy tu o STARTUPACH. Bógtechy pracujące nad AI maja kapitalizację od 2,5 bln USD (Space X, Amazon) do 4,5 bln USD (Alphabet /Google).
Sztuczna inteligencja to „must have”. Ale pod nadzorem kompetentnych ludzi
Czy sztuczna inteligencja zwiększa wydajność i pozwala radykalnie przyspieszyć wiele żmudnych dotąd czynności i zadań, eliminując błędy, obniżając koszty i dając używającym ją specjalistom i firmom wielką przewagę konkurencyjną? Tak. Ale nie dzieje się to automatycznie i – co najważniejsze – efekt ten da się osiągnąć WYŁĄCZNIE pod nadzorem ludzi o odpowiednich kompetencjach. Jest tak przede wszystkim tam, gdzie zadania mają być wykonane w środowisku ludzkim.
AI świetnie radzi sobie w przestrzeni typowej dla algorytmów, np. w programowaniu (i z tego powodu sieje panikę wśród świetnie dotąd zarabiających specjalistów IT) oraz wszędzie tam, gdzie zadanie jest powtarzalne, dane są dobrej jakości, a konsekwencje pomyłki niewielkie. Liczne przykłady jej zastosowania w różnych branżach dowodzą jednak, że przegrywa z człowiekiem – i to z kretesem - wtedy, gdy potrzebne są takie cechy, jak myślenie krytyczne i ocena sytuacji na podstawie wielu kontekstów (w tym tak ulotnych rzeczy, jak nastrój, mina czy podkrążone oczy rozmówcy), empatia, odpowiedzialność. Największe problemy ma z szybkim reagowaniem na sytuacje nieprzewidziane, czytaj: niezapisane w algorytmach. Wprawdzie błyskawicznie się uczy (po to wszystkie znane modele okradają nas z danych i chłoną tak namiętnie nasze prompty, w tym te najbardziej odjechane, aby się przygotować na zdarzenia nietypowe). W praktyce w żywym - opartym na impulsach, emocjach i koincydencjach - środowisku człowieka, a jeszcze lepiej - ludzi – AI pozostawiona sama sobie okazuje się często całkowicie bezradna.
Część specjalistów twierdzi, że w ramach LLM-ów, wielkich modeli językowych, najpewniej nie da się tego naprawić. Za dużo chaosu, za dużo zmiennych - z których tylko człowiek potrafi wyciągnąć sensowne wnioski. Albo bezsensowne. Ale na odpowiedzialność własną – i ludzkości.
Sztuczna inteligencja i człowiek czy kontra człowiek: Bohemian Rhapsody, Rush i Laufey
Fascynujące – i zarazem pocieszające dla ludzi - odkrycie ostatnich miesięcy polega na tym, że bezradność AI dotyczy nie tylko sztuki i wszelkich innych form twórczości, ale też obszarów, które wydawały się wcześniej nudne i do bólu standardowe, czyli wręcz wymarzone dla zastosowań AI, jak zamówienia w McDonald’s, analiza wniosków o zasiłek w holenderskiej opiece społecznej czy kontrola jakości samochodów w fabrykach Forda. Wszędzie tam AI doznała porażki – a wynikało to z braku odpowiedniego wsparcia i nadzoru ze strony kompetentnych ludzi. Efekty potrafiły być wręcz katastrofalne i właśnie dlatego ludzki nadzór został błyskawicznie przywrócony. Wszystko wskazuje na to, że na stałe.
Czy potraficie sobie wyobrazić sztuczną inteligencję, która – komponując (?) rockowy hit – postanawia (!) stworzyć naturalną (!) fuzję ballady operowej z hard rockiem (!) – jak Queen ponad pół wieku temu? Niektórzy odpowiedzą, że tak. Wystarczy zapromtować: „Stwórz mi kawałek w stylu „Bohemian Rhapsody” i dodać kilka mniej lub bardziej finezyjnych szczegółów. Sęk w tym, że Freddie Mercury musiał najpierw wpaść na pomysł umieszczenia w rockowej balladzie tych wszystkich „Galileo” oraz perwersyjnie zamęczać kolegów z zespołu, by godzinami, do (dosłownego) wytarcia taśmy nagraniowej, nagrywali w studiu wokale mające ostatecznie stworzyć ów legendarny dziś operowy chór.
W istocie wszystko w przypadku „Cygańskiej rapsodii” zrobione zostało wbrew zasadom obowiązującym wówczas w branży muzycznej. Również to, że blisko 6-minutowy utwór umieszczony został na singlu (a stacje radiowe, od których w ogromnej mierze zależała promocja muzyki, z zasady nie przyjmowały kawałków dłuższych niż 3 min). Z perspektywy czasu wiemy, że Mercury na przekór regułom i logice stworzył z kolegami ponadczasowe arcydzieło. Wszelkie modele AI też to, oczywiście, wiedzą. Ale wtedy była to dla wszystkich specjalistów w branży muzycznej totalna niewidoma lub wręcz herezja. Czyli nie dałoby się nakarmić algorytmów wiedzą i doświadczeniem, ani tym bardziej wolą stworzenia czegoś takiego.
A jak to wygląda dziś, w epoce ekspansji sztucznej inteligencji? Z każdym dniem przybywa muzyków używających AI oraz wytwórni wypuszczających na rynek seryjnie utwory, a nawet całe albumy „AI-supported”, czyli wspierane przez sztuczną inteligencję. Ba, na YT (i na wielu innych platformach) znajdziecie całą masę „twórczości” (?) całkowicie wygenerowanej przy pomocy AI lub wręcz przez AI. Od wokalu po aranżację i wszystkie instrumenty. Teoretycznie każdy – nawet nie mając zielonego pojęcia o nutach, śpiewaniu i grze na instrumentach - może sobie wygenerować dowolny kawałek w stylu dowolnego hitu lub nawet fuzji hitów. Czy daje to spektakularne efekty? Nie bardzo. Czy to się sprzedaje? Też nie bardzo. Co nie oznacza, że AI w twórczości muzycznej nie ma sensu. Przeciwnie – ma go bardzo wiele, ale tylko w rękach ZDOLNEGO, ŚWIADOMEGO MUZYKA.
Geniusz na miarę Mercury’ego może dziś użyć technologii, by łatwiej tworzyć tak unikatowe dzieła, jak „Bohemian…”, ale one się muszą najpierw zrodzić w jego głowie, sercu, duszy, emocjach. Równocześnie my, ludzie, ponad wszystko cenimy ludzki talent - to COŚ, czego nie da się opisać w żadnych algorytmach – ani tym bardziej wyuczyć. Czy to się właśnie na naszych oczach zmienia? Wyparowuje pod wpływem technologii?
Zobaczmy: w roku 2026 najgorętszym na świecie koncertowym zespołem rockowym jest kanadyjskie trio RUSH, które gra ze sobą od… blisko 60 lat, a „ostatecznie” zakończyło działalność dekadę temu w związku ze śmiertelną chorobą Neila Pearta, jednego z najgenialniejszych perkusistów wszech czasów i zarazem autora niemal wszystkich tekstów grupy.
Nic w tej historii się nie zgadza – wedle najpotężniejszych algorytmów ta grupa w ogóle nie powinna powstać. Niespełna 60 lat temu trzynastoletni Alex Lifeson, a tak naprawdę Aleksandar Živojinović, syn imigrantów z Jugosławii, dostał od rodziców pierwszą gitarę (wcześniej pożyczał instrument od sąsiadów). Założył zespół, który zaczął grać po barach – najpierw za darmo, a potem za 30 dol. za wieczór. „Jailhouse Rock” Presley’a śpiewali po serbsku. Któregoś dnia basista oświadczył, że idzie wieczorem na imprezę, więc nie zagra. Alex zadzwonił awaryjnie do gościa, od którego wcześniej pożyczał różne sprzęty. Okazało się, że ten gra na basie. To był Geddy Lee. Dzieciak, który wedle wszelkich algorytmów nie miał prawa istnieć: jego rodzice, Malka Bat Gerschon Elizer We Rachael Rubinstein i Moshe Meir Weinrib, polscy Żydzi, poznali się w czasie II wojny w starachowickim getcie. Przeżyli obozy w Auschwitz, Dachau i Bergen-Belsen, pobrali się i w 1947 roku wyemigrowali do Kanady. Tu 6 lat później urodził się Gary. Który został Geddym, bo mama tak wypowiadała jego imię w jidysz. Przyczłapał na ten „jeden koncert” i został na stałe – by grać i… śpiewać. Dziś uznawany jest za jednego z najwybitniejszych basistów i wokalistów w dziejach muzyki.
I wreszcie Neil Peart, który w wieku 10 lat o mało nie utonął w wodach Ontario, a od kołyski kochał wystukiwać rytmy czym popadnie na czymkolwiek. Jako dwunastolatek wykorzystywał do tego pałeczki do ryżu. Widząc to, rodzice kupili mu na 13. urodziny zabawkową perkusję i zamówili lekcje u specjalisty. Obiecali, że jeśli wytrwa w nauce przez rok, dostanie prawdziwy zestaw. Na czternaste urodziny Neil dostał perkusję i zaczął grać w zespołach. W 1974 r. dołączył do Rush. Ta trójka stworzyła jeden z najbardziej nowatorskich i olśniewających zespołów w dziejach rocka. Niebywale odkrywcza gra Pearta stała się natchnieniem i wzorem dla kilku pokoleń perkusistów – dosłownie wszystko w niej wymyka się jakimkolwiek zasadom i algorytmom. Wystarczy posłuchać genialnego „Xanadu”, zwłaszcza w koncertowej wersji - wydaje się niemożliwe, aby trzech muzyków grało jak cała orkiestra. A jednak oni to na naszych oczach robią. Świetnie się przy tym bawiąc. Byli nie tylko zgraną paczką artystów, ale i bliskimi przyjaciółmi.
Dekadę temu Lifeson miał kłopoty z artretyzmem. Niedługo potem Peart zachorował na raka mózgu. Kiedy w 2020 r. zmarł, wydawało się, że po pół wieku kończy się historia Rush. Pięć lat później technik Geddy’ego, który wrócił z trasy upamiętniającej Jeffa Becka, zaczął opowiadać o grającej na tych koncertach perkusistce Anice Nilles - z takim entuzjazmem, że Lee i Lifeson postanowili poznać dziewczynę. Okazała się być o 30-lat młodszą od nich profesorką Wydziału Perkusji w PopAkademie w Mannheim. Lee: „Chcieliśmy sprawdzić, jak to jest grać z innym perkusistą, skontaktowaliśmy się z nią i okazała się po prostu fantastyczną osobą. Przyjechała do Kanady, a my bardzo dyskretnie wkradliśmy się do studia i po tygodniu ćwiczeń byliśmy przekonani, że to jest TO”. Tak rozpoczęła się „Fifty Something Tour” – najgorętsza trasa koncertowa 2026 roku. Kto by to wymyślił?
Tymczasem na Spotify… Rekord odtworzeń w dziejach muzyki jazzowej osiągnął album Laufey Lín Bing Jónsdóttir, urodzonej w Reykjaviku córki chińskiej skrzypaczki i islandzkiego miłośnika amerykańskiego jazzu, właściciela bodaj największej na wyspie kolekcji płyt Billie Holiday, Elli Fitzgerald, Nata King Cole’a... Jaki algorytm potrafiłby przewidzieć, że w latach 20. XXI wieku ludzie pod każdą szerokością geograficzną będą się zasłuchiwać w zjawiskowym głosie pięknej Islandko-Chinki?
Prawdą jest, że nie przewidział tego również niemal żaden człowiek. Ale słowo „niemal” robi tu kolosalną różnicę. Ktoś jednak dostrzegł te nieoczywiste talenty, ktoś je oszlifował, ktoś dał im szansę, ktoś promował – z wiarą, że właśnie wymykanie się algorytmom stanowi największą wartość. Owszem, można założyć, że większość ludzi to fani Eurowizji i discopolo i próbować serwować Ziemi bezpieczną i powtarzalną papkę. Ale jest oczywiste, że nigdy nie zabraknie takich, którzy się przeciwko temu zbuntują.
Jako się rzekło, wbrew wszelkim dotychczasowym przekonaniom, ta zasada dotyczy także wielu, jeśli nie większości, obszarów biznesu, w tym przemysłu oraz – co szczególnie istotne – prawa i administracji publicznej.
Sztuczna inteligencja, McDonald’s i Ford: obsługa klienta i kontrola jakości, czyli nie zapiszesz doświadczenia w algorytmach
Sieć McDonald’s ma za sobą arcyciekawy eksperyment z automatycznym przyjmowaniem zamówień w restauracjach drive-thru w USA. Rozwijany we współpracy z ekspertami IBM system głosowy testowano w ponad stu lokalizacjach. Miał rozpoznawać mowę klientów, wpisywać zamówienie i w ten sposób zasadniczo odciążyć pracowników od najbardziej mozolnych zadań. Podstawowy, choć nie jedyny, problem polega na tym, że drive-thru tworzy niezwykle trudne środowisko społeczno-akustyczne. W obszarze samej akustyki mamy: warkot silników, szum wiatru (a czasem deszczu i burzy), rozmowy pasażerów (na żywo i przez telefon), rożne akcenty. W obszarze społecznym: pośpiech, problemy z wyborem, częste i szybkie zmiany decyzji, czemu nierzadko towarzyszą przekomarzanki pasażerów oraz ich rozmówców na głośnomówiącym lub online. Słowem: totalny chaos. W którym człowiek odnajduje się jak ryba w wodzie. Zaś AI – nie bardzo. Nawet ta najbardziej wyuczona, z algorytmem „na wszelkie ewentualności”. Ale czy także na wypadek przyjazdu Islandczyka i Chinki z bliźniaczkami (bo Laufey ma siostrę Junie) mającymi całkowicie odmienne preferencje i wyrażającymi to okrzykami w różnych narzeczach – w czasie zawiei?
W sieci pojawiały się nagrania, na których AI dodawała do zamówień niechciane produkty, bo nie zauważyła zmiany decyzji lub… pomyliła rozmowy z sąsiedniego auta. Z tego i tysięcy innych powodów testy zakończono prostym wnioskiem: człowiek jest w tym obszarze znacznie lepszy - nie dlatego, że zawsze słyszy idealnie, lecz z tego powodu, że potrafi nawet kątem oka zauważyć zmianę decyzji lub pomyłkę, dopytać, a także wyczuć nastrój i naprawić sytuację zanim zamówienie trafi do kuchni.
Nie oznacza to, że McDonald’s zrezygnował z wykorzystania AI – wręcz przeciwnie: wprowadza i na coraz większą skalę stosuje algorytmy w kolejnych obszarach, ale zawsze pod kontrolą człowieka o odpowiednich kompetencjach. To człowiek podejmuje decyzje w oparciu o własne doświadczenie i rozeznanie. AI w tym pomaga m.in. poprzez gromadzenie i szybką analizę zbiorów danych. Ale nie jest w stanie zastąpić człowieka.
Identyczny – a jeszcze świeższy - jest tu przypadek Forda. Koncern półtora roku temu chwalił się niemal całkowitym wyeliminowaniem ludzi z procesu kontroli jakości – miało to nie tyle obniżyć koszty i przyspieszyć procesy, co uczynić system kontroli wręcz doskonałym, bezbłędnym. Amerykański gigant przez kilka lat coraz mocniej opierał się na automatycznych systemach i sztucznej inteligencji w projektowaniu, testowaniu oraz wychwytywaniu usterek. Idea była atrakcyjna: algorytmy miały analizować wymagania konstrukcyjne, szybciej znajdować słabe punkty i ograniczać koszty gwarancji oraz akcji serwisowych. Stało się odwrotnie: jakość aut zaczęła szwankować, koncern wypadł z czołówki niezawodności, co zaniepokoiło zarząd.
Dokładne (ludzkie) analizy wykazały, że źródłem problemu jest błędne założenie, iż jakość samochodu jest wyłącznie sumą parametrów (danych) technicznych. Tymczasem faktycznie składa się na nią unikatowa wiedza praktyczna ludzi, którzy dzięki wieloletniemu doświadczeniu nauczyli się, jak drobna zmiana materiału, mocowania, oprogramowania albo dostawcy, a nawet… pogody potrafi po kilku miesiącach użytkowania zamienić się w kosztowną usterkę.
Charles Poon, wiceprezes Forda odpowiedzialny za inżynierię pojazdów, przyznał właśnie, że błędem było przekonanie, iż „nakarmienie” AI wymaganiami projektowymi oraz wiedzą pozyskaną od inżynierów wystarczy do uzyskania produktu wysokiej jakości. Ford, podobnie jak wiele innych firm, odkrył oczywistą prawdę, że automatyczne narzędzia są - tylko i aż - tak dobre, jak dane i doświadczenie, które do nich wprowadzono. A tu pojawiła się luka: część najbardziej doświadczonych specjalistów odeszła z firmy lub została zastąpiona zanim ich wiedza została przekazana młodszym inżynierom i systemom uczącym się.
Ford zaczął więc odwracać kierunek zmian: firma sukcesywnie ponownie zatrudnia, awansuje lub sprowadza z zewnątrz setki doświadczonych inżynierów, w tym byłych pracowników i ekspertów od dostawców, tzw. „gray beard” (szarobrodych), czyli ludzi z długą praktyką, którzy potrafią przewidzieć awarię zanim element trafi na linię produkcyjną. Co istotne: ich zadaniem nie jest wyrzucenie AI z fabryk i biur projektowych, lecz naprawienie i doskonalenie algorytmów: poprawa danych, przeprogramowanie narzędzi, prowadzenie obowiązkowych przeglądów jakości oraz mentoring młodszych zespołów.
Zarząd Forda twierdzi, że ludzie są tutaj niezastąpieni. Nawet najlepiej wyuczone i „wykarmione” doświadczeniem i wiedzą inżynierów algorytmy nie wyłapią tego, co bywa tak ulotne i często nieprzewidywalne. Człowiek też czasem tego nie umie, a jego błędy mogą być wyjątkowo kosztowne. Ale cena jego wyeliminowania z procesów jest o piekło wyższa.
W mediach branżowych doświadczenie Forda przedstawiane jest jako pouczający przykład tego, że nie ma prostego konfliktu „człowiek kontra maszyna”. Ford nie porzucił sztucznej inteligencji: nadal wykorzystuje automatyczne testy, kamery i systemy walidacji oprogramowania. Zmienił jednak proporcje. Zrozumiał, że w złożonym produkcie, jakim jest samochód, algorytm nie zastąpi pamięci instytucjonalnej, intuicji technicznej i umiejętności łączenia faktów z wielu dziedzin.
AI może policzyć więcej scenariuszy niż człowiek, ale to człowiek często wie, które z nich są najbardziej prawdopodobne i faktycznie groźne. Porażka Forda polegała więc nie na użyciu technologii, lecz na uznaniu, że doświadczenie inżynierów da się szybko i bez strat przenieść do modelu komputerowego. A to przecież tak, jak oczekiwać od AI, w którą wpakowano wszystkie utwory, wywiady i zapiski muzyków Queen, że stworzy nowe, oryginalne dzieło na miarę „Cygańskiej rapsodii”.
Sztuczna inteligencja, finanse, reklamacje, nieruchomości: dane historyczne nie przewidują wszystkiego, a klient woli człowieka
Pochopnie i ewidentnie źle wprowadzona AI zawiodła także tam, gdzie stawką były ogromne pieniądze. Uruchomiony w 2018 roku przez portal nieruchomości Zillow program Zillow Offers umożliwiał właścicielom domów szybką sprzedaż nieruchomości bezpośrednio do firmy (w modelu „kup teraz”) za pomocą algorytmów sztucznej inteligencji. Wykorzystywał algorytmy także do szybkiego odsprzedawania domów nowym klientom. Model AI szacował ceny nieruchomości na podstawie danych, a firma działała w przekonaniu, że przy dużej skali i szybkim obrocie da się działać efektywniej i zarabiać więcej niż tradycyjni pośrednicy. Gdy rynek zaczął się zmieniać, prognozy okazały się zbyt optymistyczne, przez co Zillow kupił wiele domów zbyt drogo. W efekcie musiał zamknąć program i zwolnić część pracowników.
Główny wniosek: trafna wycena nieruchomości obejmuje nie tylko metraż, kod pocztowy i historię transakcji. Liczą się lokalne niuanse: hałas, stan budynku, otoczenie, moda na dzielnicę, a przede wszystkim emocje kupujących. Tych ostatnich nie da się do końca przewidzieć, ani tym bardziej zaprogramować. Doświadczony agent lub rzeczoznawca potrafi zauważyć szczegóły, których algorytm nie widzi lub nie umie właściwie ocenić. Ba, agent umie kształtować te szczegóły, zmieniając na bieżąco dane i parametry. Algorytm – nie.
Ta zasada okazała się obowiązywać także w obsłudze klienta w firmach finansowych. Boleśnie przekonała się o tym Klarna, znana z usług „kup teraz, zapłać później”. Początkowo mocno postawiła na automatyzację kontaktu z klientami i chwaliła się, że asystent AI wykonuje pracę setek konsultantów. Kierownictwo firmy przyznało jednak potem, że zbyt duży nacisk położono na cięcie kosztów, a zbyt mały na jakość. W sprawach finansowych klienci często potrzebują wyjaśnienia sporu, uspokojenia, wyjątku od standardowej procedury oraz jasnej odpowiedzialności za decyzję. Chatbot może szybko odpowiedzieć na typowe pytanie, ale gdy pojawia się frustracja, niejednoznaczność lub ryzyko straty pieniędzy, człowiek bywa bardziej skuteczny, bo potrafi połączyć przepisy, kontekst i komunikację.
Banki i instytucje ubezpieczeniowe wiedzą już, że mogą zautomatyzować wiele procesów, ale takie sytuacje, jak zaciągnięcie kredytu hipotecznego czy wykupienie ubezpieczenia na życie, wymagają asysty kompetentnego człowieka. Tu jest on po prostu niezastąpiony – jak twórca oryginalnej muzyki, agent nieruchomości czy inżynier jakości u Forda.
Wsparcie psychiczne i społeczne: fatalne skutki braku empatii i uprzedzeń AI
Wiemy już także, że jeszcze poważniejsze skutki może mieć źle wprowadzona automatyzacja usług pomocy psychologicznej. W 2023 roku amerykańskie National Eating Disorders Association (Narodowe Stowarzyszenie Zaburzeń Odżywiania) wyłączyło chatbota Tessa, który miał wspierać osoby z zaburzeniami odżywiania. Użytkownicy zgłaszali, że bot udzielał porad dotyczących liczenia kalorii, odchudzania i kontrolowania masy ciała — czyli dokładnie tych zachowań, które u części osób mogą pogłębiać chorobę. Stało się dziś w miarę jasne, że w obszarze zdrowia sama poprawność językowa odpowiedzi nie wystarcza. Potrzebna jest jeszcze ostrożność, doświadczenie kliniczne, rozpoznanie ryzyka i umiejętność skierowania człowieka po realną pomoc. Rolę nie do przecenienia odgrywa tu empatia. AI może wspierać specjalistów, ale nie powinna bez nadzoru zastępować rozmowy z osobą odpowiedzialną za bezpieczeństwo pacjenta.
W administracji publicznej za jedno z najgłośniejszych ostrzeżeń przed bezkrytycznym użyciem AI uchodzi holenderska afera z zasiłkami na opiekę nad dziećmi. Tamtejsze organy podatkowe i socjalne wykorzystywały systemy oceny ryzyka do wskazywania osób podejrzewanych o nadużycia. W praktyce tysiące rodzin niesłusznie uznano za oszustów, odbierano im świadczenia i żądano zwrotu dużych kwot. Ludzie tracili domy, trafiali na bruk. Skrzywdzono masę niewinnych rodzin.
Szczególnie niebezpieczne było to, że w modelach ryzyka uwzględniano m.in. narodowość lub podwójne obywatelstwo, co prowadziło do dyskryminacji osób pochodzących z mniejszości i rodzin migranckich. Im więcej było decyzji opartych na uprzedzeniach, tym silniej algorytm się nimi karmił. AI nie była więc neutralnym narzędziem: wzmacniała uprzedzenia wpisane w dane i procedury, co stało się źródłem nasilającej się dyskryminacji. To dowód na to, że źle zaplanowana i fatalnie wdrożona automatyzacja istotnych procesów decyzyjnych w systemie świadczeń społecznych uderza w tych, którzy najbardziej potrzebują wsparcia i ochrony państwa. Największym błędem było tutaj to, że urzędnicy, którzy mieli weryfikować analizy i wnioski formułowane przez AI, całkowicie zaufali „projektom decyzji” tworzonym przez sztuczną inteligencję i po prostu seryjnie je „przyklepywali”.
Rozwiązanie problemu było identyczne, jak w innych opisanych przypadkach: trzeba było przywrócić nadzór ludzi o odpowiednich kompetencjach. Na trwałe. Algorytmy nie mogą samodzielnie podejmować decyzji w sprawach ludzi. Muszą to robić ludzie.
Sztuczna inteligencja: człowiek i maszyna - pod nadzorem człowieka
Podstawowy wniosek jest taki, że porażki AI nie wynikają z „głupoty maszyny”, lecz z błędnego założenia, że każde zadanie da się sprowadzić do wzorca w danych. Sztuczna inteligencja może podpowiadać, sortować dane i wnioski, o niebo precyzyjniej wykrywać anomalie, wydatnie przyspieszać rutynowe czynności. Gorzej sprawdza się jako samodzielny zastępca człowieka tam, gdzie liczy się odpowiedzialność, empatia, sprawiedliwość, doświadczenie zawodowe i zdolność do zakwestionowania własnej odpowiedzi. Czyli… właściwie wszędzie, gdzie mamy do czynienia z człowiekiem lub – jeszcze bardziej – złożonymi i nie do końca obliczalnymi społecznościami.
Najrozsądniejsze wcielanie w życie AI wymaga więc przejrzystości, kontroli i – ponad wszystko - ludzkiej decyzji. Zwłaszcza wówczas, gdy stawką jest zdrowie, bezpieczeństwo, majątek obywateli, bądź jakość produktów, od których zależy ludzkie zaufanie, a często po prostu - życie.
Dziennikarz, publicysta, felietonista Forsal.pl i Dziennika Gazety Prawnej, laureat wielu nagród i wyróżnień dziennikarskich, m.in. Nagrody Grabskiego i Nagrody Kwiatkowskiego.