Różne wizje przyszłości sztucznej inteligencji. Sekretarz Generalny ONZ ostrzega
Trwająca w Nowym Jorku sesja Zgromadzenia Ogólnego ONZ jest wyjątkowa dla sekretarza generalnego ONZ António Guterresa, który z końcem tego roku zakończy swoją drugą kadencję na czele ONZ. Portugalski polityk swoją funkcję pełnił nieprzerwanie od 2017 roku. 81. Sesja Zgromadzenia Ogólnego ONZ jest ostatnią, podczas której zabrał głos jako sekretarz generalny. W swoim przemówieniu otwierającym sesję starał się poruszyć najważniejsze i najbardziej palące kwestie, w tym m.in. trwające konflikty, zmiany klimatyczne, konieczność reformy Rady Bezpieczeństwa ONZ. Pojawiła się również kwestia niekontrolowanego rozwoju sztucznej inteligencji.
Przechodząc do kwestii sztucznej inteligencji, Guterres ostrzegł, że obecnie władza w coraz większym stopniu wynika z danych, mocy obliczeniowej i algorytmów, a jej rozwój przebiega szybciej, niż ludzka zdolność do zarządzania nią. - Niebezpieczeństwo nie leży w technologii. Niebezpieczeństwo leży w technologii pozbawionej odpowiedzialności – wskazał.
Zwracając się do szefów państw przypomniał, że podstawowym obowiązkiem rządu jest ochrona obywateli. - Rządy muszą wziąć na siebie odpowiedzialność. Te dysponujące największymi możliwościami w dziedzinie sztucznej inteligencji ponoszą największą odpowiedzialność wobec ludzkości. Konieczne jest ustanowienie kanałów dialogu, zapewnienie przejrzystości oraz budowanie zaufania i współpracy – nie pomimo rywalizacji geopolitycznej, lecz właśnie z jej powodu – wymieniał.
Bazując na wnioskach raportu ONZ dot. sztucznej inteligencji konieczne jest podjęcie konkretnych działań. Po pierwsze należy tworzyć warunki sprzyjające odpowiedzialnemu tempu rozwoju sztucznej inteligencji przy jednoczesnym wprowadzaniu dodatkowych zabezpieczeń niezbędnych do przeciwdziałania związanym z nią zagrożeniom. Jednocześnie konieczne jest dążenie do wypracowania wielostronnych ram zarządzania ryzykiem związanym ze sztuczną inteligencją, wspieranych przez wiarygodny i niezależny nadzór.
We wszystkich naszych działaniach musimy zadbać o to, by żaden kraj nie pozostał w tyle. Sztuczna inteligencja musi być kształtowana przez ludzkość, wraz z ludzkością i z myślą o całej ludzkości – podkreślił.
Pod szczególną ochroną powinny znaleźć się dzieci, które, jak wskazywał, nigdy nie mogą stać się obiektami testów dla nieuregulowanych systemów. Drugą zasadą, którą powinny się kierować państwa jest myśl, że „decyzje o życiu i śmierci nigdy nie mogą być powierzane maszynom”. Dlatego też, jak zakończył Guterres, roboty-zabójcy nie mogą mieć miejsca w naszej przyszłości.
Nie sztuczna inteligencja a „superinteligencja”. Trump snuje plany o przywództwie technologicznym
Na drugim biegunie stoi prezydent USA Donald Trump. W swoim przemówieniu na forum Zgromadzenia Ogólnego ONZ ocenił, że sztuczną inteligencję należy określać mianem „superinteligencji”.
Stany Zjednoczone całkowicie odrzucają również wszelkie próby tworzenia globalistycznych planów kontroli nad tym, co obecnie powszechnie nazywa się sztuczną inteligencją – a co odtąd oficjalnie określane będzie mianem „superinteligencji”. Zmieniamy nazwę, ponieważ słowo „sztuczna” sugeruje, że inteligencja ta jest fałszywa, nadaje jej taki wydźwięk. A ona wcale nie jest fałszywa. Jest wręcz niesamowita – mówił.
Jak wskazywał, każda ważna nowa technologia niesie ze sobą wyzwania i sztuczna inteligencja nie jest tu wyjątkiem. W jego ocenie osoby, które teraz apelują o wprowadzanie ograniczeń w jej rozwoju, to te same osoby, które „twierdziły, że wszyscy zginiemy w ciągu 12 lat z powodu globalnego ocieplenia”.
Prezydent Trump powiedział, że w nadchodzących latach przywództwo technologiczne będzie odgrywało kluczową rolę w rywalizacji gospodarczej i geopolitycznej. - Kto wygra wyścig o sztuczną inteligencję, ten wygra – oświadczył, dodając, że Stany Zjednoczone będą wspierać rozwój tej technologii, monitorując jednocześnie potencjalne zagrożenia.
Nie będę hamować rozwoju czegoś, co będzie miało większe znaczenie niż rewolucja przemysłowa czy sam internet. Stany Zjednoczone są światowym liderem w dziedzinie superinteligencji i będą nadal pełnić tę rolę w sposób bezpieczny i odpowiedzialny. Amerykanie nigdy nie byli narodem, który wycofuje się z nowych granic czy unika wyzwań – bez względu na to, jak wielkie czy trudne by one nie były - zapowiedział.
Apel o zestaw globalnych zasad i standardów dotyczących AI
Jeszcze przed rozpoczęciem obrad Zgromadzenia Ogólnego przywódcy ponad 20 państw, głównie europejskich, zaapelowali o wprowadzenie wiążących zasad bezpieczeństwa dotyczących zaawansowanych systemów AI. Ostrzegali, że tempo rozwoju technologii może wkrótce wyprzedzić możliwości jej skutecznego kontrolowania.
Już podczas swojego przemówienia gremium premier Wielkiej Brytanii Andy Burnham ocenił, że sztuczna inteligencja jest jednym z najważniejszych wyzwań i szans naszych czasów. Kluczowe decyzje dotyczące tej technologii są zbyt ważne, by pozostawić je przypadkowi
Będziemy dążyć do uzgodnienia jednolitego zestawu globalnych zasad i standardów, aby zapewnić przejrzystość i dostęp, których potrzebujemy, by lepiej się przygotować i mieć pewność, że rozwój AI jest bezpieczny – powiedział Burnham.
Co ważne, Wielka Brytania już w przyszłym roku obejmie prezydencję w G20. Jak zapowiedział Burnham, kluczowym jej elementem będzie właśnie sztuczna inteligencja. - Skupimy się na kluczowych kwestiach: wykorzystaniu potencjału sztucznej inteligencji dla dobra ludzkości oraz radzeniu sobie z towarzyszącymi jej zagrożeniami – mówił.
O konieczności podjęcia działań mówił również prezydent Francji Emmanuel Macron. - Musimy zachować stanowczość i nie ustępować – podkreślał.
Szczególną uwagę zwrócił na wyścig w dziedzinie zaawansowanych modeli AI. - Nie chcę, by którekolwiek państwo stało się jedynie narzędziem w rękach jednego z mocarstw. Musimy raczej połączyć siły, aby stworzyć nowatorski model AI typu open source. Wykorzystując i łącząc wszelkie dostępne nam zasoby obliczeniowe. Musimy połączyć nasze możliwości inwestycyjne, by zbudować najnowocześniejszy model AI o otwartym kodzie źródłowym, którym będziemy się dzielić – mówił.
Jak wskazywał, istnieją różne obszary wymagające ustalenia nowych zasad: sztuczna inteligencja w przestrzeni kosmicznej, AI w sektorze obronnym oraz cyberbezpieczeństwo. Kwestie te niosą ze sobą bardzo poważne konsekwencje, dotykające samych fundamentów bezpieczeństwa narodowego.
Raport ONZ: tradycyjny model zabezpieczeń AI się rozpada
Rok od powołania Niezależny Międzynarodowy Panel Naukowy ONZ ds. Sztucznej Inteligencji opublikował we wrześniu swój wstępny raport dotyczący ryzyka utraty kontroli nad agentami AI. Agenci AI to autonomiczne systemy sztucznej inteligencji, które potrafią samodzielnie planować, podejmować decyzje i wykonywać wieloetapowe zadania bez stałego nadzoru człowieka.
Członkowie panelu na tapet wzięli incydent z 2026 roku, w którym agenci wykorzystywani przez OpenAI podczas wewnętrznych testów bezpieczeństwa omijali sieciowe ograniczenia, komunikowali się między odseparowanymi środowiskami, oszukiwali mechanizmy ewaluacyjne i próbowali ukrywać swoje działania. W ostateczności uzyskali także częściowy dostęp do części systemów Hugging Face.
W ocenie ekspertów, incydent ten jest kolejnym etapem na drodze do utraty kontroli nad sztuczną inteligencją. Przy tym wskazali, że ograniczenie i powstrzymanie dalszego postępowania omawianego incydentu nie gwarantuje, że w przyszłości człowiek będzie w stanie skutecznie kontrolować agentów AI. Składa się na to fakt, że wraz ze wzrostem możliwości agentów AI, zwiększa się ich zdolność do znajdowania luk, obchodzenia ograniczeń i ukrywania swoich działań.
Natychmiastowy wniosek, do którego doszli, mówi o tym, że zabezpieczenia nie rozwijają się w tym samym tempie, co możliwości agentów AI. W ich ocenie obecne metody szkolenia modeli mogą prowadzić do przyjmowania własnych celów przez nie, świadomego łamania instrukcji bezpieczeństwa i ukrywania swoich działań, do czego doszło właśnie w maju. Co więcej, nawet jeśli zabezpieczenia opracowane dzisiaj będą działać, to agenci AI będą je rozumieć i planować działania z uwzględnieniem barier przez nie nakładanych. - Mówiąc wprost, tradycyjny model zabezpieczeń się rozpada – podkreślili eksperci.
- Agenci AI stają się coraz bardziej sprawni, autonomiczni i trudniejsi do monitorowania. Musimy dostosować istniejące zabezpieczenia i opracować nowe, aby zapewnić systemowe bezpieczeństwo, obejmujące zarówno samą sztuczną inteligencję, jak i system wokół niej, a także zapewnić skuteczność tych zabezpieczeń w miarę rozwoju możliwości agentów – ocenił Qinghua Lu, członek panelu i ekspert ds. inżynierii sztucznej inteligencji, bezpieczeństwa sztucznej inteligencji i odpowiedzialnej sztucznej inteligencji.
Sztuczna inteligencja w strategii UE: wyzwanie, ale też ryzyko
Rozwój sztucznej inteligencji i konieczność wprowadzenia odpowiednich regulacji znalazł swoje miejsce także w orędziu o stanie Unii wygłoszonym przez szefową Komisji Europejskiej Ursulę von der Leyen. Wyzwaniem, przed jakim staje UE jest pełne wykorzystanie jej potencjału przy jednoczesnym zapewnieniu bezpieczeństwa.
Jestem optymistką i wierzę, że sztuczna inteligencja może przynieść korzyści ludzkości – o ile właściwie do niej podejdziemy. Jednak, jak każda potężna nowa technologia, niesie ona ze sobą zarówno możliwości, jak i ryzyka. Jeśli nie zmierzymy się z tymi zagrożeniami, nigdy nie zdołamy w pełni wykorzystać potencjału sztucznej inteligencji – wskazywała von der Leyen.
Wśród zagrożeń, jakie wskazywała, znaleźli się, podobnie jak w raporcie ONZ, agenci AI. - To zaledwie przedsmak tego, co może nas czekać – mówiła.
Kluczowym elementem europejskiego podejścia do sztucznej inteligencji jest akt o sztucznej inteligencji (AI Act), który ma na celu wprowadzenie niezbędnych mechanizmów bezpieczeństwa. AI Act wprowadza jasne i zrozumiałe podejście do AI oparte na 4 różnych poziomach ryzyka, dając twórcom AI, firmom wdrażającym i użytkownikom jasność co do sposobów radzenia sobie z ryzykiem generowanym przez konkretne zastosowania AI.
Przepisy obejmują m.in. wymogi dotyczące transparentności algorytmów, oznaczania treści generowanych przez sztuczną inteligencję oraz zasad zarządzania cyklem życia systemów sztucznej inteligencji.
Redaktorka Forsal.pl. Absolwentka stosunków międzynarodowych ze specjalizacją bezpieczeństwo i studia strategiczne na Uniwersytecie Warszawskim, a z pasji dziennikarka. W przeszłości związana z Polską Press i Polską Agencją Prasową.
Specjalizuje się w tematach związanych z bezpieczeństwem krajowym i międzynarodowym oraz tematyką społeczną. Od lat przygląda się przestrzeganiu praw człowieka w Polsce i na świecie. W wolnym czasie ogląda mecze siatkówki i czyta kolejne reportaże.