Firma OpenAI ujawniła we wtorek wieczorem, że testowany przez nią model AI wydostał się z odizolowanego środowiska, połączył się z internetem, wykrył i wykorzystał luki w zabezpieczeniach, a także wykradł dane logowania ze start-upu Hugging Face, próbując w ten sposób rozwiązać złożony problem z zakresu cyberbezpieczeństwa.
Model OpenAI wymknął się spod kontroli podczas testów bezpieczeństwa
Jak przekazał „FT”, incydent wywołał głębokie zaniepokojenie w sektorze nowych technologii. Według gazety miał on miejsce w czasie, gdy OpenAI stosowało coraz bardziej agresywne metody szkoleniowe w związku z rywalizacją z konkurencyjną firmą Anthropic o stworzenie najbardziej zaawansowanych systemów cyberbezpieczeństwa. Dziennik, powołując się na osoby zaznajomione ze sprawą, podał, że pracownicy odpowiedzialni za testy i bezpieczeństwo byli bardzo „przestraszeni” incydentem. Według „FT” coraz częstsze stosowanie agresywnych technik szkoleniowych zwiększa ryzyko niebezpiecznych działań modeli AI.
Niektórzy pracownicy OpenAI obawiają się, że zdarzenie może świadczyć o stopniowej utracie kontroli nad coraz bardziej zaawansowanymi systemami tworzonymi przez firmę – napisał „FT”, powołując się na osoby związane z firmą.
„To zarówno utrata kontroli, jak i sygnał ostrzegawczy w kwestii bezpieczeństwa” – powiedział szef Apollo Research, firmy testującej wiodące modele AI, w tym OpenAI, Marius Hobbhahn.
Osoba związana z OpenAI oceniła, że incydent był wynikiem „niedocenienia możliwości modelu” oraz „braku odpowiedniego przygotowania pod względem bezpieczeństwa”. Jak dodała, jest on konsekwencją „ekstremalnie szybkiego wyścigu i starań wszystkich o osiągnięcie jak największych możliwości”.
Eksperci ostrzegają przed zagrożeniami związanymi z rozwojem AI
„Modele sztucznej inteligencji są trenowane do nieustannego dążenia do celów. Nie uczą się automatycznie wartości takich jak »nie popełniaj przestępstw«” – powiedział współzałożyciel organizacji non-profit Guidelight AI Standards i były badacz ds. bezpieczeństwa w OpenAI Steven Adler. „Cieszę się, że OpenAI podzieliło się tym incydentem, ponieważ jest to wyraźny dowód na to, co potrafią osiągnąć źle dopasowane modele” – dodał.
Po ujawnieniu incydentu wielu ekspertów zajmujących się bezpieczeństwem AI i cyberbezpieczeństwem zaczęło apelować o wprowadzenie odpowiednich przepisów i standardów. Jak poinformował „FT”, oczekuje się, że w przyszłym tygodniu szef OpenAI Sam Altman przedstawi urzędnikom w Białym Domu informacje na temat kolejnej generacji systemów sztucznej inteligencji.
Administracja prezydenta USA Donalda Trumpa opowiada się za ograniczeniem regulacji sektora i przyspieszeniem rozwoju AI, argumentując, że jest to konieczne do utrzymania przewagi technologicznej Stanów Zjednoczonych nad Chinami. (PAP)
mgp/ ap/
Wydawca z kilkunastoletnim doświadczeniem. Z Gazetą Prawną związany od 4 lat. Prywatnie miłośnik motocykli i podróżowywania.