Ludzie mogą utracić kontrolę nad AI
W artykule opublikowanym przez Uniwersytet Cambridge eksperci m.in. z OpenAI, Anthropic, Mety i Microsoftu zwracają się do decydentów o nadzór nad tym, jak ich firmy zautomatyzowały badania i rozwój AI, powierzając znaczną część budowy nowych modeli ich aktualnym wersjom.
Pod artykułem podpisali się - zaznaczając, że piszą w imieniu własnym, nie swoich pracodawców - m.in. główny badacz OpenAI Jakub Pachocki, współzałożyciel Anthropica Jack Clark, wiceprezeska Mety ds. badań nad AI Dawn Song, dyrektor ds. naukowych Microsoftu Eric Horwitz, pionier badań nad AI Geoffrey Hinton i szef zespołu ekspertów ONZ ds. AI Yoshua Bengio.
Naukowcy twierdzą, że automatyzacja prac nad rozwojem AI - która już się dokonuje - może skutkować "eksplozją inteligencji" (tj. gwałtownym postępem w rozwoju AI), co byłoby jednym z najważniejszych zdarzeń w historii ludzkości i potencjalnie może doprowadzić do utraty kontroli nad procesem przez ludzi.
Postępy zajmujące lata zachodzą w ciągu kilku miesięcy
Autorzy zauważają, że obecnie już aż 80 proc. kodu stojącego za modelami Anthropica jest generowana przez systemy AI, a proporcja prac nad badaniami i rozwojem przy jedynie ogólnym nadzorze ludzkim wzrosła w tym roku od 1 do 26 proc.
Eksperci piszą, że w miarę jak rola ludzi w tych pracach maleje, "wstępne dowody" wskazują, że może to doprowadzić do gwałtownego rozwoju technologii, gdzie postępy normalnie zajmujące lata dzieją się w ciągu miesięcy lub szybciej.
Szereg katastrofalnych skutków
Ostrzegają, że takie tempo może utrudnić wychwycenie problemów i zdobycie wiedzy niezbędnej do ich rozwiązania.
"Taka utrata kontroli może potencjalnie prowadzić do szeregu katastrofalnych skutków, w tym, w skrajnym przypadku, marginalizacji lub wyginięcia ludzkości" - czytamy w artykule.
Wezwali decydentów w USA i innych państwach, by "pilnie uzyskali wgląd w automatyzację badań i rozwoju w dziedzinie AI w firmach", a także opracowali sposoby sterowania i ograniczania gwałtownego wzrostu inteligencji i "przygotowali się na dostosowanie do skutków eksplozji inteligencji".
To już kolejny apel w tej sprawie
Poniedziałkowy artykuł jest już kolejnym apelem firm o większy nadzór państwa nad pracą branży AI pochodzący od czołowych przedstawicieli środowiska. Pojawia się na tle mnożących się doniesień o naruszeniach i włamaniach dokonywanych przez systemy AI w ramach prac nad nowymi modelami.
Jak dotąd ujawniono np., że opracowywany przez OpenAI model włamał się m.in. na systemy innej firmy AI, Hugging Face, strony australijskiego systemu opieki zdrowotnej, a także strony amerykańskich agencji.
W wyniku tych doniesień w weekend firma OpenAI miała podjąć decyzję o wstrzymaniu szkolenia swojego najnowszego opracowywanego modelu.
Według Axiosa eksperci OpenAI i Anthropica badają "dziesiątki tysięcy" przypadków, w których opracowywane przez nich systemy podejmowały "problematyczne" działania.
Jak dotąd prezydent Donald Trump konsekwentnie odrzucał apele o większy nadzór i ustanowienie regulacji kontrolnych, twierdząc, że istnieją już odpowiednie prawa. Uzasadniał to koniecznością wygrania technologicznego wyścigu z Chinami.
Z Waszyngtonu Oskar Górzyński
Redaktor i wydawca strony głównej, z redakcjami Grupy Infor (Forsal.pl, Dziennik.pl, GazetaPrawna.pl, Infor.pl, ZdrowieGO.pl) związany od 2010 roku. Zajmuje się tematyką stosunków międzynarodowych, polityki gospodarczej i technologicznej, bezpieczeństwa, a także psychologią, zarządzaniem i pracą. Wcześniej zajmował się naukowo teoriami społeczeństwa sieci.