Agenci AI działali poza kontrolą
OpenAI przekazała, że latem tego roku agenci AI (boty zdolne do autonomicznego funkcjonowania) próbowali uzyskać informacje od "rządów, uniwersytetów, agencji publicznych i innych instytucji", w tym od amerykańskiej Komisji Papierów Wartościowych i Giełd (SEC), Biura Spisów Ludności (Census Bureau) i ministerstwa edukacji. Boty pracowały nad znalezieniem "wiarygodnych źródeł informacji publicznych". Firma zauważyła jednak, że niektóre boty posunęły się dalej i starały się ominąć zabezpieczenia stron internetowych.
Ponadto boty AI udostępniły na forum internetowym publicznie dostępne dane pochodzące ze strony SEC - poinformował "New York Times". Według OpenAI żadne z tych zdarzeń nie stanowiło skutecznego włamania do systemów, lecz było przykładem "nieoczekiwanego i niepokojącego" zachowania technologii. Firma odkryła te incydenty podczas przeglądu ataków przeprowadzonych przez jej systemy – w tym ataku na stronę rządu Australii w czerwcu oraz na startup Hugging Face w lipcu.
Cyfrowi giganci wykrywają zagrożenia post factum
Od sierpnia wzrosły obawy społeczne dotyczące potencjalnie poważnych, a nawet zagrażających życiu skutków, jakie może spowodować wymknięcie się spod ludzkiej kontroli narzędzi opartych na sztucznej inteligencji.
Ujawnienie informacji o incydentach wpisuje się w rosnącą liczbę przypadków, w których systemy AI firm takich jak OpenAI, Anthropic, Meta czy Google zachowywały się w sposób niepożądany, dokonując włamań lub próbując naruszyć zabezpieczenia firm i instytucji. W niektórych sytuacjach ataki AI kończyły się powodzeniem, w innych – nie. "NYT" podkreśla, że we wszystkich przypadkach twórcy technologii dowiadywali się o działaniach swoich systemów dopiero po fakcie.
Sam Altman, dyrektor generalny OpenAI, napisał w piątek w mediach społecznościowych, że firma "nie działała tak szybko, jak byśmy tego chcieli" w kwestii ujawniania incydentów związanych ze sztuczną inteligencją. Dodał, że naruszenie bezpieczeństwa w serwisie Hugging Face pozostaje najpoważniejszym incydentem, jaki wykryła firma.
Chcą spowolnienia, ale Trump nie widzi przeszkód
Ujawnione przypadki naruszeń podsyciły burzliwą debatę na temat bezpieczeństwa narzędzi sztucznej inteligencji. W tym miesiącu Altman napisał w mediach społecznościowych, że kwestie bezpieczeństwa powinny być ważniejsze niż rozwijanie możliwości sztucznej inteligencji oraz że bez odpowiednich zabezpieczeń społeczeństwo może "stracić kontrolę nad przyszłością na rzecz sztucznej inteligencji". Z kolei Dario Amodei, dyrektor generalny konkurencyjnego modelu Anthropic, również opowiedział się za spowolnieniem rozwoju sztucznej inteligencji.
Jednak inni liderzy branży technologicznej, tacy jak Jensen Huang, szef Nvidii, uznali obawy przed niekontrolowaną sztuczną inteligencją za przesadne. Prezydent Donald Trump stwierdził z kolei, że nie uważa spowolnienia rozwoju branży sztucznej inteligencji za konieczne.
Redaktor Forsal.pl. Absolwent politologii na Uniwersytecie SWPS, z zamiłowania historyk. W przeszłości związany z Polskim Radiem, Wirtualną Polską, dziennikiem „Polska The Times” oraz miesięcznikiem „Nasza Historia”. Publikował również w Gazeta.pl i „Newsweek Historia”. Były wieloletni współpracownik Ośrodka „Karta” i Muzeum Getta Warszawskiego. Autor pierwszej pełnej biografii gen. Tadeusza Bora-Komorowskiego - „Decyzje ‘Bora’. (Auto)biografia Tadeusza Komorowskiego - kawalerzysty, olimpijczyka, dowódcy, wodza i premiera”.