Ale po kolei. Czy słyszeliście o paradoksie spinaczy? To myślowe ćwiczenie, które 15 lat temu zaproponował filozof Nick Bostrom, jeden z pionierów rozważań nad konsekwencjami pojawienia się sztucznej inteligencji. Szwed z Oksfordu kalkulował w sposób następujący: załóżmy, że powstaje sztuczna inteligencja (SI). Nie jest ona dziełem żadnego szwarccharakteru planującego zniszczenie naszej planety. Jej celem nie jest też wygranie wojny nuklearnej w służbie jednego z mocarstw ani nawet znalezienie skutecznego leku na raka. Zadanie SI dostaje skromniutkie i niewiążące się z żadnym ryzykiem. Ma produkować spinacze do papieru.

źródło: Dziennik Gazeta Prawna

I to właśnie jest koniec ludzkości. Banalne, ale prawdziwe. Bo zobaczmy, co tu się dzieje. Dość szybko następuje tzw. eksplozja inteligencji. SI zaczyna się udoskonalać. Po co? Bo chce produkować i akumulować coraz więcej spinaczy. Nieważne, że na pewnym etapie skończą się dostępne zasoby. Skoro SI ma produkować spinacze, to będzie je wytwarzać. Niezależnie od wszystkiego będzie parła w kierunku przekształcenia planety w wielką fabrykę oraz magazyn spinaczy. Docelowo nie przetrwa więc nic, z czego nie da się zrobić spinacza. Tego procesu nie da się przerwać właśnie dlatego, że inteligencja jest sztuczna. To znaczy – w przeciwieństwie do ludzi – nie obowiązują jej żadne nieutylitarne reguły. Nie wierzy w miłość, przyjaźń, nie ulega litości, nie czuje piękna. Po prostu chce produkować więcej spinaczy. I jest w tym dobra. Jak powiedział Eliezer Yudkovsky, jeden z pionierów badań nad SI, „to nie jest tak, że sztuczna inteligencja nas nienawidzi, albo że nas kocha. Ona wie, że jesteśmy zbudowani z atomów i akurat potrzebuje użyć tych atomów do czegoś innego”.

Paradoks Bostroma od lat towarzyszy większości rozważań na temat skutków wejścia w epokę transhumanizmu. A ponieważ ostatnio SI znowu jest bardzo modna i na badania nad jej rozwojem kierowane są naprawdę duże pieniądze, to i zainteresowania paradoksem jakby więcej. Jednym z tych, którzy postanowili się ze spinaczami zmierzyć, jest Joshua S. Gans, ekonomista z Uniwersytetu w Toronto.

Gans przepuścił paradoks Bostroma przez ekonomiczny sposób rozumowania znany jako problem agencji (ang. principal-agent problem). Chodzi tu o takie sytuacje, gdy jedna strona (przełożony) deleguje pracę drugiej (agentowi). Teoria agencji zajmuje się tym, jak wybrać najefektywniejszą formę ich kontraktu. Za jej pomocą można na przykład decydować, w jaki sposób akcjonariusze powinni nagradzać (albo karać) menedżerów, których wynajmują do prowadzenia ich przedsiębiorstwa. Bywa że po tę torię sięgają politolodzy, by opisać relacje polityków oraz wyborców.

Nowinką Gansa jest to, że pokazał, jak relację przełożonego-agenta można przyłożyć do problemu spinaczy. Nie chodzi już jednak o sytuację, w której człowiek – twórca sztucznej inteligencji – jest pryncypałem, a SI to jego agent. Ekonomista idzie o krok dalej. Rozważa moment, gdy doszło już do eksplozji inteligencji. Czyli do tej strasznej chwili, gdy SI zaczyna ewoluować, by stać się jeszcze bardziej inteligentna.

Co się wówczas dzieje? SI staje wówczas przed koniecznością dokonania wyboru, na ile wolności i samodzielności pozwolić swym udoskonaleniom. Gdyby była głupia, toby to zrobiła. Ale ona jest inteligentna. A skoro tak, to może mieć z tym problem oraz poważne wątpliwości, czy warto. Podobne do tych, które mają ludzie martwiący się o świat po powołaniu do życia SI. Faktycznie mamy tu więc do czynienia z kolejną sytuacją typu przełożony – agent. Gdzie przełożonym jest SI, a agentem jej inteligentne ewolucje. Przełożony chce produkować więcej spinaczy. Ale nie może być pewien, że agent nie uniezależni się od niego i nie przerzuci na budowę czegoś innego. Albo wymyśli jeszcze Bóg wie co innego.

I tu pojawia się cień szansy dla ludzkości. Wahająca się sztuczna inteligencja może zechce wbudować w swoje własne potomstwo takie mechanizmy regulacyjne, które nie pozwolą mu na bycie w pełni skutecznym supermaksymalizatorem budowy spinaczy. Tempo całego procesu więc spowolni. Dając ludzkości czas na przegrupowanie. Może wtedy będziemy uratowani?

>>> Polecamy: Co pijesz i z kim śpisz. Banki będą o nas wiedzieć niebezpiecznie dużo