Yoshua Bengio, profesor na Uniwersytecie w Montrealu i szef Montreal Institute for Learning Algorithms, powiedział CNBC na szczycie One Young World w Montrealu, że ma obawy co do tej technologii i ostrzegł, że niektórzy ludzie z „dużą władzą” mogą nawet chcieć, aby ludzkość została zastąpiona przez maszyny.

Bengio wie o czym mówi, bo jest pionierem w tej dziedzinie. Za swoje badania nad sztuczną inteligencją, która próbuje naśladować aktywność ludzkiego mózgu, aby nauczyć się rozpoznawać złożone wzorce w danych, zdobył wiele nagród – przypomina CNBC.

„Naprawdę ważne jest, aby wyobrazić sobie przyszłość, w której mamy maszyny pod wieloma względami tak inteligentne jak my, i co to oznaczałoby dla społeczeństwa” — Bengio powiedział Tani Bryer z CNBC na szczycie.

Inteligencja daje władzę

„Inteligencja daje władzę. Kto więc będzie kontrolował tę władzę?” — powiedział Bengio, dodając, że posiadanie systemów, które wiedzą więcej niż większość ludzi, może być niebezpieczne w niewłaściwych rękach.

A w ocenie profesora maszyny mogą wkrótce posiadać większość zdolności poznawczych, które posiadają ludzie.

Koncentracja władzy AI jest niebezpieczne

Według Bengio gigantyczne koszty budowy potężnych maszyn AI sprawi, że tylko ograniczona liczba organizacji i rządów będzie mogła sobie na nie pozwolić. A im większe będą systemy, tym maszyny staną się mądrzejsze.

W tej sytuacji dojdzie do koncentracji władzy. O ocenie profesora, w przypadku władzy ekonomicznej, ucierpią rynki finansowe. W przypadku władzy politycznej, koncentracja AI może okazać się zła dla demokracji.

No i na koniec, koncentracja władzy militarnej stwarza zagrożenie dla geopolitycznej stabilności naszej planety – uważa Bengio. Istnieją argumenty sugerujące, że sposób, w jaki obecnie szkolone są maszyny AI, „doprowadziłby do powstania systemów, które zwrócą się przeciwko ludziom”, powiedział CNBC Bengio.

Bariery ochronne muszą powstać już teraz

Bengio, wraz z grupą obecnych i byłych pracowników Open AI, w czerwcu poparł list otwarty zatytułowany: „Prawo do ostrzegania o zaawansowanej sztucznej inteligencji”.

List zawiera ostrzeżenie przed poważnym ryzykiem związanym z rozwojem sztucznej inteligencji.

Po pierwsze rządy, muszą wprowadzić regulacje, które zmuszą firmy budujące i szkolące za wielkie pieniądze pionierskie systemy do ich rejestracji. „Rządy powinny wiedzieć, gdzie się znajdują i jakie są szczegóły tych systemów” — powiedział Bengio w CNBC. Firmy rozwijające sztuczną inteligencję muszą również ponosić odpowiedzialność za swoje działania.