Możemy znajdować się w przełomowym momencie historii, kiedy to idea równowagi strategicznej, na której polegaliśmy przez ostatnie 75 lat, dochodzi do granic swoich możliwości - pisze Mark Buchanan.

Jedną z metod ludzkości na to, aby nowe technologie nie wymknęły się spod kontroli, jest próba zbadania możliwych negatywnych konsekwencji przez wszystkie zainteresowane strony oraz wspólne stworzenie regulacji, które mogą zapobiegać negatywnym skutkom. Nowe badania pokazują jednak, że zwiększające się tempo zmian może sprawić, że podejście to stanie się nieefektywne.

Ludzie używają prawa, norm społecznych oraz porozumień międzynarodowych, aby wykorzystać korzyści mogące płynąć z technologii oraz zminimalizować niepożądane efekty, takie jak np. zniszczenie środowiska naturalnego. Aby wypracować takie zasady zachowania, które na to pozwolą, często inspirujemy się pochodzącą z obszaru teorii gier tzw. równowagą Nasha, nazwaną tak na cześć matematyka i ekonomisty Johna Nasha. Równowaga Nasha w teorii gier oznacza zespół różnych strategii, które raz odkryte przez graczy, służą im jako wzór zachowań dających stabilność, od której nikt nie chce odchodzić. W ten sposób żaden z graczy nie ma powodów, aby zmieniać strategię.

Aby osiągnąć taką równowagę, gracze muszą zrozumieć konsekwencje własnych oraz cudzych działań. Na przykład: w czasie zimnej wojny pokój pomiędzy potęgami atomowymi zależał od zrozumienia, że jakikolwiek atak nuklearny doprowadzi do zniszczenia wszystkich. Podobnie rzecz ma się w przypadku prawa – od lokalnego do międzynarodowego: negocjacje mogą tu być postrzegane jako stopniowe badanie różnych możliwości, aby wreszcie znaleźć zespół zasad akceptowalnych dla każdego, dzięki czemu nikt nie będzie próbował ich omijać.

Ale co jeśli technologia stanie się tak złożona i zacznie się rozwijać tak szybko, że ludzkość przestanie być zdolna do wyobrażenia sobie konsekwencji własnych działań? Na takie pytanie próbowali odpowiedzieć w swoim ostatnim badaniu Dimitri Kusnezov z National Nuclear Security Administration oraz Wendell Jones, który przed odejściem na emeryturę pracował w laboratoriach Sandia National Labs. Wnioski badaczy są niepokojące: koncepcja równowagi strategicznej jako pewnej zasady organizacyjnej może być już nieaktualna.

Reklama

Kusnezov i Jones dochodzą do takiego wniosku na podstawie matematycznych badań z obszaru teorii gier, gdzie wielu graczy ma do wyboru wiele rodzajów działań. Jednym z głównych wniosków jest ostry podział na dwa typy graczy: stabilni i niestabilni. Otóż poniżej pewnego poziomu złożoności równowaga Nasha może służyć jako narzędzie pomocne w przewidzeniu prawdopodobnych działań graczy, ale już powyżej określonego poziomu złożoności, wkraczamy w sferę chaosu, gdzie gracze nigdy nie przyjmują stabilnych i wiarygodnych strategii, ale nieustannie zmieniają swoje zachowania w wysoce nieregularny sposób. To co się dzieje, jest w istocie losowe i nieprzewidywalne.

Badacze uważają, że nowe technologie, w szczególności przetwarzanie danych, oprogramowanie i biotechnologie, takie jak zmiana genów, najprawdopodobniej wpadną do kategorii tych nieprzewidywalnych. W obszarach tych zakłócenia stają się coraz częstsze i coraz większe, wraz ze spadkiem kosztów i otwartymi platformami, umożliwiającymi innowacje. Zatem technologie te będą się zmieniać szybciej niż regulacje ich dotyczące.

Co możemy w tej sytuacji zrobić? Kusnezov i Jones nie mają łatwiej odpowiedzi. Jasny wniosek jest taki, że prawdopodobnie błędem jest kopiowanie technik stosowanych wobec wolniej zmieniających się technologii przeszłości. Często jednak takie podejście dominuje jako typowe, co widać na przykładzie prób regulacji technologii zmiany genów. Wysiłki takie są jednak skazane na niepowodzenie, szczególnie w świecie, gdzie technologie rozwijają się dzięki równoległym działaniom globalnej populacji, która ma często rozbieżne cele i interesy. Być może przyszłe regulacje będą same musiały polegać na technologiach, tak jak dziś próbuje się to stosować w niektórych obszarach finansów.

Możemy znajdować się w przełomowym momencie historii, kiedy to idea równowagi strategicznej, na której polegaliśmy przez ostatnie 75 lat, dochodzi do granic swoich możliwości. Jeśli tak, to regulacja staje się zupełnie inną grą.

>>> Czytaj też: Wroczyński: Sztuczna inteligencja nawet nie wie, że pokonała człowieka [WYWIAD]