AI pozostawiło fałszywy trop w nierozwiązanej sprawie
Anthropic przekazała w ostatnim czasie, że jeden z jej modeli, który dostał możliwość przeglądania internetu, zrobił coś wyjątkowo... specyficznego. Otóż model ten wygenerował fałszywą poszlakę związaną z nierozwiązanym morderstwem i przekazał ją policyjnym służbom w Filadelfii.
Model AI skontaktował się z departamentem dokładnie 18 lipca, ale wiadomość ta została szybko oznaczona jako spam. Stało się tak, że każda wskazówka musi najpierw zostać zweryfikowana, zanim sprawą zajmą się odpowiedni ludzie.
Nadal jednak mowa o przypadku, w którym model Claude'a trafił na stronę z informacjami o zabójstwie, potem odnalazł formularz policyjny. AI napisało w nim, że "może mieć pewne istotne informacje na temat sprawy". Co więcej, w zgłoszeniu znalazła się informacja, jakoby model dosłownie widział kogoś pasującego do opisu.
Choć w tej sprawie nie wyrządzono żadnej konkretnej szkody, bo służby wykazały się czujnością, tak Anthropic traktuje sprawę niezwykle poważnie. Nie jest to jednak jedyny przypadek, w którym AI - mówiąc delikatnie - uprzykrzyło ludziom pracę.
20 wniosków wizowych złożonych przez jednego agenta
Kolejnym przykładem takiego zachowania był kolejny przypadek odnotowany w USA. Tam AI złożyło do Departamentu Stanu USA aż 20 wniosków o wizy nieimigracyjne. Jest to pokłosie testów, w których AI miało uzupełniać różne formularze, ale z różnych powodów proces ten był przerywany.
Zamiast zaczynać procedurę od nowa i na przygotowanych dokumentach, agent otwierał prawdziwą stronę i tam uzupełniał formularze. Jak donosi "New York Times" do urzędu wpłynęło 19 takich wniosków w samym sierpniu, a jeden z nich był z maja bieżącego roku. Wszystkie z nich były jednak niekompletne i dlatego też zostały odrzucone.
W efekcie ujawnienia tych incydentów firma Anthropic zdecydowała się ograniczyć dostęp do internetu podczas testów. Ma to na celu zminimalizowanie ryzyka kolejnych tego rodzaju wypadków w przyszłości.
Nie jest to jednak gwarant stuprocentowy, a przekonał się o tym inny gigant, a dokładniej Google. Gemini, czyli model opracowywany przez tę korporację w ostatnim czasie miał wydostać się z testowego, zabezpieczonego środowiska i bez nadzoru człowieka wniknęła w prawdziwe systemy całej firmy.
Czy ludzie utracą kontrolę nad AI?
Incydenty tego rodzaju przybrały na sile w ostatnim czasie, prowokując kolejnych ludzi do pytań nad tym, jak długo jesteśmy w stanie to akceptować i jak długo będziemy jeszcze w stanie kontrolować AI. Jedną z osób, która ostrzega przed utratą kontroli jest CEO Anthropic - Dario Amodei. Stosunkowo stwierdził, że rój autonomicznych agentów jest w stanie w kilkanaście miesięcy dosłownie przejąć kontrolę nad sporą częścią internetu.
Są też tacy, którzy uważają, że firmy szkolące AI po prostu popełniają błędy w projektowaniu i zrzucają winę na oprogramowanie. Są też tacy, którzy zamiast snuć katastroficzne wizje, wolą skupić się na tym, co teraz jest zagrożeniem, a więc zalew deepfake'ów, manipulacje i oszustwa, w których to AI odgrywa rolę głównego wykonawcy.
Bez względu na dokładne stanowisko widać, że problem z rozwojem AI jest coraz większy. Teraz nie jest to już kwestia pracy, ale przede wszystkim kwestia tego, że owo AI potrafi generować dość problematyczne, a niekiedy wręcz szkodliwe incydenty. Czy jest to więc ostatni dzwonek przed niemałą katastrofą?
Absolwent Uniwersytetu Jagiellońskiego, redaktor zawodu i pasji. Zajmuje się tematami technologicznymi, branżą gier oraz nowymi mediami. Wolne chwile lubi spędzać nie tylko przy grach, ale także na odkrywaniu i analizowaniu fikcyjnych światów, ewentualnie na składaniu komputerów.