Sztuczna inteligencja. Przepowiednia Bostroma bywa ostatnio często przypominana

Ten tekst przeczytasz w 1 minutę
9 lipca 2023, 09:10
technologia, sztuczna inteligencja, roboty
Sztuczna inteligencja/ShutterStock
W przyszłym roku stuknie 10 lat, odkąd filozof Nick Bostrom sformułował jedną z najsłynniejszych przepowiedni dotyczących rozwoju sztucznej inteligencji. Szwed z Uniwersytetu Oksfordzkiego w głośnym tekście z 2014 r. pisał mniej więcej tak: wyobraźmy sobie, iż człowiek tworzy superinteligentną AI, której jedynym celem jest tworzenie spinaczy do papieru. Nic więcej.

Superinteligentna AI ochoczo przystępuje do działania. Błyskawicznie wykorzystuje wszystkie najprostsze sposoby i zasoby do zrobienia spinaczy. Szuka więc nowych. Odpowiednio przepisując pierwotny program (będzie potrafiła to robić), nasza AI ewoluuje. Jest superinteligentna, więc jeżeli istnieje sposób na zrobienie z czegoś spinacza biurowego, to ona ten sposób znajdzie. Dość szybko okazuje się, że mamy do czynienia z sytuacją rodem z przerażającej kreskówki. Góra spinaczy rośnie i rośnie, a AI zaczyna niszczyć wszystko wokoło. Odłącza osiedla i szpitale od prądu, bo musi mieć energię do realizacji celu. Zabiera materiały potrzebne do rozwoju innych gałęzi gospodarki, bo liczy się tylko budowa spinaczy. I tak dalej.

Oczywiście – snuje opowieść Bostrom – po pewnym czasie zapada decyzja, by taką AI wyłączyć. Nikt przecież nie chce, by nasz świat zginął pod spinaczami. Ale tu czeka nas przykra niespodzianka. AI jest superinteligentna i dawno już przewidziała, że ktoś będzie próbował ją wyłączyć. Idzie więc na bezlitosną wojnę z ludzkością. Eskalacja konfliktu jest nieuchronna. Sprawę kończy jakiś rodzaj katastrofy nuklearnej, po której z naszej cywilizacji zostają zgliszcza. A wszystko przez spinacze biurowe.

Copyright
Materiał chroniony prawem autorskim - wszelkie prawa zastrzeżone. Dalsze rozpowszechnianie artykułu za zgodą wydawcy INFOR PL S.A. Kup licencję
Źródło: MAGAZYN DGP
Zapisz się na newsletter
Zapraszamy na newsletter Forsal.pl zawierający najważniejsze i najciekawsze informacje ze świata gospodarki, finansów i bezpieczeństwa.

Zapisując się na newsletter wyrażasz zgodę na otrzymywanie treści reklam również podmiotów trzecich

Administratorem danych osobowych jest INFOR PL S.A. Dane są przetwarzane w celu wysyłki newslettera. Po więcej informacji kliknij tutaj