AI, które samo replikuje się według uznania
Na początku tygodnia firma Anthropic przekazała wyniki swoich ostatnich eksperymentów związanych z małymi modelami sztucznej inteligencji. Wedle tychże, za kilka miesięcy zyskają one możliwość samodzielnej replikacji na komercyjnych urządzeniach, które znajdują się w obrębie tzw. Internet of Things (IoT).
Oznacza to, że taki mały model byłby w stanie bez większych problemów zlokalizować, zbadać i zreplikować się na sprzęty takie jak inteligentne piekarniki czy niektóre telewizory wyposażone w system Android TV.
W badaniach firmy wykazano, że małe modele (poniżej 30 mld parametrów), są w stanie faktycznie wykonać wiele etapów takiej samodzielnej replikacji. Z drugiej jednak strony wiele etapów takiego procesu było dla tych modeli dość trudnym zadaniem ze względu na zabezpieczenia. Jeśli jednak te zostałyby zdjęte, to wówczas kompleksowa replikacja i rozprzestrzenianie się AI samorzutnie nie byłoby żadnym problemem.
Najgorsze w tym przypadku wydaje się przede wszystkim to, że taki zreplikowany model może nadal samodzielnie się replikować bez potrzeby sięgania do "pierwotnego modelu". To oznacza także, że trudno byłoby ten proces w ogóle zatrzymać. Biorąc pod uwagę, że wiele urządzeń domowych, które mają funkcje smart, raczej nie grzeszą wybitnymi zabezpieczeniami, to takiego stałego kopiowania nie dałoby się zatrzymać.
Jednak nie ma się czego bać?
Choć wizja AI, które niczym wirus rozprzestrzenia się po urządzeniach, brzmi niepokojąco, to warto jednak nieco ostudzić obawy. Samo Anthropic przyznało, że taki proces replikacji byłby wyjątkowo powolny. Takie replikatory potrzebowałyby nie godzin, a wielu dni, aby taki proces przeprowadzić. Sama firma porównała to "cyfrowej śluzówki", w której tokeny, bardziej niż pędząc, ciekną z urządzenia na urządzenie.
Dodatkowo Anthropic podkreśliło, że na ten moment nie ma żadnych dowodów na istnienie w pełni działającego, fałszywego replikatora. Nadal jednak ostrzegają oni przed sytuacją, w której sztuczna inteligencja będzie działać zupełnie niezależnie od człowieka, w sposób, którego nie da się kontrolować.
Dlaczego Anthropic kolejny raz straszy przed AI?
Na tym wielu mogłoby się zastanawiać, dlaczego Anthropic, jako firma zarabiająca na rozwijaniu sztucznej inteligencji, tak żywo przed nią ostrzega i nawołuje do regulacji? Przeglądając fora tematyczne oraz social media, można trafić na wiele teorii, jednak warto skupić się w gruncie rzeczy tylko na tych, które mają jakieś umocowanie w faktach.
Najbardziej prawdopodobną jest ta, wedle której Anthropic celowo działa w taki sposób chcąc samemu pokazać się jako firma od bezpiecznej i etycznej AI. Dla wielu klientów biznesowych (w tym także rządów) ma być to argument, który skłoni właśnie do korzystania z usług tej firmy, a nie konkurencji, której modele mogą być nieprzewidywalne i destrukcyjne.
Może to być także element przygotowań przed wejściem na spółki na giełdę w listopadzie 2026 roku. Składając oficjalne dokumenty do amerykańskiej komisji SEC, firma ma prawny obowiązek wymienić wszelkie możliwe zagrożenia dla swojego biznesu. Anthropic, przygotowując taki konspekt, poświęciła niemal 1/3 całego tego pisma na czynniki ryzyka związane z niekontrolowanym AI.
W ostatecznym rozrachunku i bez względu na motywy, to właśnie Anthropic jest firmą, która głośno i regularnie informuje i ostrzega przed zbyt szybkim rozwojem AI. Pytanie tylko, czy ktoś wreszcie do tych apeli się ustosunkuje, czy będziemy musieli czekać na jakąś tragedię.
Absolwent Uniwersytetu Jagiellońskiego, redaktor zawodu i pasji. Zajmuje się tematami technologicznymi, branżą gier oraz nowymi mediami. Wolne chwile lubi spędzać nie tylko przy grach, ale także na odkrywaniu i analizowaniu fikcyjnych światów, ewentualnie na składaniu komputerów.