Ba, właśnie teraz - dzięki rozwojowi sztucznej inteligencji – jesteśmy bliscy stworzenia superbazy danych o wszystkich obywatelach i ich aktywnościach. To będzie baza totalna. W sam raz dla totalitarnej władzy?
„Rząd nie powinien wiedzieć coraz więcej o tym, co robią obywatele. To obywatele powinni wiedzieć coraz więcej o tym, co robi rząd” – znane powiedzenie Rona Paula, ikony amerykańskiego libertarianizmu, zyskało ostatnio ogromną popularność, także w Polsce. Nie czarujmy się jednak: trend jest odwrotny. Czy da się go jeszcze odwrócić?
Permanentna inwigilacja
Adam Niedzielski wiedział, jakie leki zażywa jego krytyk. Stracił stanowisko nie za to, że sięgnął po tę – jakże intymną - wiedzę, lecz przez wpisy w mediach społecznościowych, które zwróciły uwagę opinii publicznej na ten, jak się wydaje, powszechny proceder władzy. U progu kampanii wyborczej.
Dlaczego wiedza wyborców na temat obnażonej tutaj formy inwigilacji jest władzy nie na rękę? Otóż przeciętny Kowalski średnio obawia się podsłuchiwania Pegasusem etc., bo uważa, że takie działania służą do walki z terrorystami, gangsterami i przeciwnikami politycznymi, a ponieważ nie zalicza siebie do żadnej z tych kategorii, to sądzi, że w ogóle go nie dotyczą (oczywiście, może się bardzo mylić). Co innego bezceremonialne buszowanie przez urzędników po bazach danych zawierających – często bardzo wrażliwe – informacje o aktywności tzw. zwykłych ludzi. I to wszystkich.
Różne organy władzy gromadzą te informacje w zasadzie od zarania ludzkości, ale cyfryzacja zasadniczo zmieniła zasady gry. Wyobraźmy sobie urzędnika stojącego dekadę temu przed gigantycznym archiwum papierowych akt dwóch milionów posiadaczy samochodów w Warszawie. A teraz – tego samego urzędnika przed komputerem mającym dostęp do funkcjonalnej bazy danych wszystkich 26,7 mln posiadaczy pojazdów w Polsce. Funkcjonalnej, czyli takiej, w której można w mgnieniu oka wyszukać dowolną informację na temat dowolnego posiadacza i jego pojazdu.
Pójdźmy dalej: obok tego urzędnika siedzi inny, np. ze skarbówki, albo funkcjonariusz CBŚ, z dostępem do wszystkich paragonów w Polsce. Jeszcze dekadę temu oznaczałoby to co najwyżej możliwość wytarzania się w miliardach rolek wyblakłych wydruków z kas fiskalnych. Dziś ów dostęp pozwala momentalnie wyszukiwać i analizować transakcje z dowolnego miejsca i dowolnego dnia. W przypadku przedsiębiorców – są to operacja przypisane do konkretnej firmy i osoby. W przypadku reszty obywateli niby nie, ale przecież bazami o indywidualnych płatnościach od dawna dysponują banki. Polska bankowość należy do najlepiej scyfryzowanych na świecie, gotówka jest stale wypierana przez karty płatnicze, Blika itd. Dlatego banki wiedzą o naszych wydatkach – i wydatkowych preferencjach – prawie wszystko. Sięgać po tę wiedzę może nie tylko skarbówka, prokuratura, czy policja. Uprawnienia takie ma kilkanaście instytucji.
To teraz rozejrzyjmy się, co jeszcze, dla naszego dobra i wygody, zostało lub niebawem zostanie scyfryzowane. Generalnie uważamy to za korzystne – i w wielu aspektach słusznie. Ale zawsze warto mieć z tyłu głowy orwellowską wizję permanentnej inwigilacji. Łatwo sobie wyobrazić, że różne rodzaje informacji, od rejestru wykroczeń czy ksiąg wieczystych po bazę pacjentów i historię ich leczenia (wraz z zapisanymi lekami), dziś rozproszone, zostaną w imię – a jakże – wyższego dobra zintegrowane i zaopatrzone w AI na poziomie ChatGPT piątej generacji. Laptop z dostępem do czegoś takiego będzie wart niemal tyle, ile nuklearna walizka prezydenta USA.
A gdyby władza chciała zrobić kolejny krok i oprzeć na tej bazie danych innowacyjnie bezbłędny, bo w pełni zalgorytmizowany, system zaufania społecznego, od którego zależy pozycja każdego obywatela: możliwość kształcenia, podjęcia pracy, zakupu mieszkania, pójścia na koncert, wybrania się na wakacje, a nawet zakupu biletu na samolot i pociąg?
System, który ocenia cię 24/7
Na biurku jednego z wpływowych ministrów znalazłem precyzyjny opis takiego systemu – o nazwie SEZAM. W roboczej wersji zakładał on – w imię równości i sprawiedliwości - przyznanie każdemu obywatelowi 1000 punktów, które następnie można było tracić (np. za jazdę po pijanemu), albo pomnażać (np. za zrobienie zakupów babci z sąsiedniej klatki). Ostatecznie władza uznała, że taka równość byłaby niesprawiedliwa, a przede wszystkim niekorzystna politycznie – i odpaliła algorytm, który a priori przyznaje pewnej kategorii obywateli (czyli swojakom) 950 punktów, a ludziom najmniej spójnym z tą pierwszą, wzorcową kategorią (czyli skrajnym nieswojakom) - 350. Reszta jest gdzieś pośrodku.
Wszyscy obywatele dzielą się na cztery podstawowe grupy: A, B, C, D. Ci z najniższej nie mogą pełnić kierowniczych funkcji, wyjechać za granicę (bo nie mają prawa do paszportu), ani podjąć pewnych aktywności, np. dostać kredytu na mieszkanie czy samochód, ani zrobić doktoratu. Ci z najwyższej objęci są rozbudowanym systemem korzyści, np. mogą pójść poza kolejką do lekarza specjalisty lub na zabieg w szpitalu. Poza tymi „niuansami” (składającymi się faktycznie na system kastowy lub klasowy, jak kto woli), generalne założenie jest takie, jak pierwotnie: obywatel traci lub zyskuje punkty zależnie od podejmowanych przez siebie działań lub zaniechań.
Za co można dostać premię? M.in. terminowe płacenie podatków i składek (np.na fundusz zdrowia) oraz rachunków, segregowanie śmieci, wolontariat. Za co system odejmuje punkty? Za przestępstwa, wykroczenia (także te drogowe), mandaty za złe parkowanie, ale też za nadużywanie gier komputerowych (system mierzy czas spędzony na „stronach próżniaczych”) oraz zadawanie się z osobami o niskich notowaniach. Spotkasz się z kolesiem, który ma w Sezamie mniej niż 100 punktów i odejmujemy ci 25.
Skąd system wie, że się z kimś spotkałeś? Ano analizuje na bieżąco dane z bardzo wielu źródeł, m.in. ze stacji bazowych telefonii komórkowej (w 5G jest w stanie co do centymetra ustalić miejsce, w którym znajduje się twój telefon – a więc i ty), z systemów geolokalizacji (90 procent ludzi ma ją domyślnie włączoną w swoich smartfonach), z bazy danych o transakcjach (płacisz kartą – SEZAM wie, gdzie i za co) i wreszcie z rozbudowywanego wciąż monitoringu zewnętrznego opartego na kilkudziesięciu milionach kamer 8K sterowanych zaawansowanymi algorytmami rozpoznawania twarzy; docelowo takich publicznych i przemysłowych kamer ma być ponad dwa razy więcej niż ludzi (a nie liczymy tu tych, które każdy nosi przy sobie w smartfonie, tablecie czy laptopie oraz posiada w innych domowych urządzeniach, np. w telewizorach i domofonach, a ostatnio także w sprzęcie AGD, np. w robotach kuchennych – wszystkie one są online).
Trzeba dodać, że każdy obywatel przy zakupie smartfona musi dać zeskanować sobie twarz oraz zostawić w rządowej bazie odcisk palca. Oczywiście – dla wygody i bezpieczeństwa. Rząd podkreśla, że chodzi o bezproblemowe logowanie do systemu Mobilny Obywatel, w którym można od ręki załatwić wszelkie sprawy urzędowe.
Najpotężniejsze algorytmy Sezamu, opracowane zgodnie z wytycznymi resortu spraw wewnętrznych, odpowiadają za przetwarzanie danych z wszystkich źródeł, czyli integrują bazy, tworząc w ten sposób w pełni funkcjonalna superbazę totalną. Są w niej nie tylko tzw. twarde dane, ale i informacje o aktywności danej osoby w sieci, zwłaszcza w mediach społecznościowych – wpisy, komentarze, lajki… De facto to owe superalgorytmy decydują o przyznaniu lub odebraniu punktów, czyli o twojej pozycji w hierarchii zaufania społecznego. Od tej pozycji zależy zaś twoje życie: z małą liczbą punktów stajesz się pariasem, któremu nie wolno nic i który za byle co może trafić do obozu czy więzienia, z dużą liczbą punktów należysz do uprzywilejowanej elity. Dotyczy to także twoich dzieci.
Na łeb na szyję
Zapewne wielu Czytelników dostrzegło w tym opisie mocne nawiązanie do tego, co genialny Charlie Brooker stara się nam od ładnych paru lat pokazywać w swoim cyklu „Czarne lustro”. W pierwszym odcinku trzeciej serii, zatytułowanym „Na łeb, na szyję” (ang. „Nosedive”) i wyemitowanym dość dawno, bo 21 października 2016 r., grana fantastycznie przez Bryce Dallas Howard niejaka Lacie Pound próbuje poprawić swoją notę w mediach społecznościowych. Po co? Bo od noty w aplikacji zależy de facto jej realny status w realnym świecie.
Lucy poznajemy jako typową dziewczynę z sąsiedztwa, sympatyczną, uśmiechniętą, dzielącą się z otoczeniem radością życia. Świat, w którym żyje, zdaje się kolorowy i efektowny jak w najsłodszych bajkach. Szybko przekonujemy się jednak, że jest on tylko – i aż - wiernym odbiciem totalnie wykreowanej rzeczywistości, jaką znamy z FB czy (zwłaszcza) Insta. Wszystko tu jest w kółko oceniane przy pomocy gwiazdek. Np. kupujesz kawę w ulicznej budce - przyznajesz sprzedawcy/sprzedawczyni notę za jakość obsługi, produktu oraz ogólne twe wrażenie (np. czy uśmiech był promienny czy raczej nieszczery). Równocześnie sprzedawca/sprzedawczyni ocenia ciebie.
Skąd my to znamy? Ano z życia. Takie punktacje od dawna funkcjonują w sklepach internetowych, w marketplace’ach (Allegro, Amazon, Aliexpress…), w usługach przewozowych nowej generacji (Uber, FreeNow, Bolt…), w bankach, w telekomach i u operatorów telewizji (dostajesz po rozmowie z konsultantem esemesa z prośbą o ocenę tegoż konsultanta?; otóż to, on/ona też ciebie ocenia jako klienta/klientkę). Wszystko w celu „podniesienia jakości usług”; notabene z tego samego powodu musimy się godzić na instalowanie na naszych smartfonach, tabletach i komputerach „niezbędnych plikówcookie” należących do wszelkiej maści operatorów i usługodawców, w tym największych platform społecznościowych; te szpiegujące nas na okrągło miniprogramy potrafią tkwić w naszych urządzeniach po dwa lata, albo i… wiecznie. Oczywiście – za naszą zgodą.
Zatem już dzisiaj oceniamy się wzajemnie na potęgę – a informacje o nocie oddajemy w ręce globalnych korporacji oraz – pośrednio – rządów (w tym niekoniecznie własnego). Sami też jesteśmy na potęgę oceniani – przez ludzi i (coraz częściej) algorytmy.
Czy to zabawa? Niekoniecznie! Gdybyśmy mieli do czynienia z błahostką, nie dostawałbym od sprzedawców z Allegro, ani kierowców z FreeNow błagalnych mejli i esemesów z prośbą o podniesienie oceny. Gotowi są za to zrobić naprawdę wiele, bo od noty zależy ich kariera, a w konsekwencji – życie.
W „Nosedive” Brooker, jak to on, pokazał nam, dokąd to może zmierzać (albo po prostu – zmierza). Noty z rożnych aktywności są wystawiane w społecznościówkach, a następnie agregowane w jedną supernotę – wyznaczającą status społeczny: elity, szaraka lub pariasa. Ocena poniżej dostatecznej wiąże się nie tylko z powszechnym ostracyzmem (wzmacnianym przez aplikację, ponieważ samo zadawanie się z „osobą niegodna zaufania”, a nawet odezwanie się do niej skutkuje odebraniem punktów), ale też z poważnymi konsekwencjami w życiu codziennym: nie możesz mieszkać w niektórych dzielnicach, nie dostaniesz 99 proc. stanowisk, nie wyślesz dzieci do dobrej szkoły, nie kupisz większości towarów.
Jeden z użytkowników „Filmwebu” (pozdrawiam „belbo”) w komentarzu pod opisem tego odcinka „Czarnego lustra” napisał: „Jeżeli jest tu choć odrobina prawdy o naszym życiu w przyszłości, to ja chętnie bym się wypisał z takiego burdelu. Punkty, od których ma się odruch wymiotny. Dzyn dzyn”. Wielu internautów odpisało mu: „Halo! To już się dzieje”.
Również ja, oglądając siedem lat temu „Na łeb, na szyję”, odniosłem wrażenie, że to nie jest wcale wizja przyszłości – lecz opis teraźniejszości. I to niespecjalnie przerysowany. Sam Brooker tak to zresztą przedstawiał w wywiadach oraz dyskusjach, jakie wybuchły na kanwie tegoż odcinka.
Sęk w tym, że jako ludzkość i jako poszczególne społeczeństwa nie wyciągnęliśmy z tego praktycznych wniosków. Owszem, Panoptykon nadal walczy. Owszem, publicyści wciąż biją na alarm. Owszem, Brooker w szóstym sezonie „Czarnego lustra” nieustająco i błyskotliwie ostrzega (jeśli ktoś jeszcze nie widział „Joan jest okropna”, niech koniecznie obejrzy – to, wbrew pozorom, także rzeczywistość!) .
Cały czas wcielamy w życie wizję znaną z „Nosedive”. Na łeb, na szyję.
社会信用体系, czyli System Zaufania Społecznego
Kiedy Brooker realizował trzecią serię „Black Mirror”, komunistyczny rząd Chin odpalał po kilkuletnim pilotażu nowy powszechny System Zaufania Społecznego oparty na algorytmie Sezam. Tak, jeśli ktoś nie wie, albo jeszcze się nie domyślił, opisany przeze mnie paręnaście akapitów wyżej system naprawdę istnieje. I jest stale rozbudowany w kierunku czystego Orwella - przy użyciu narzędzi, o których Wielki Brat mógł tylko pomarzyć.
Zaczęło się od stworzenia systemu powszechnej informacji kredytowej dla 1,3 mld obywateli - rząd irytowało, że w bankowych systemach jest tylko 800 mlnChińczyków, a cała reszta nie ma odnotowanej historii kredytowej. Społeczeństwu tłumaczono, że baza jest potrzebna, aby obywatel mógł bez problemu dostać kredyt czy pożyczkę. Ci, których nie ma w bazie, nie dostaną. Budową owej centralnej superbazy zajął się Ludowy Bank Chin – w oparciu o dane, jakie musieli mu udostępnić prywatni przedsiębiorcy, na czele ze spółką holdingu Alibaba Group (do którego należy niebywale popularny w Polsce Aliexpress).
W tym, samym czasie Ministerstwo Bezpieczeństwa Publicznego, przy wparciu kilku prywatnych firm, pracowało nad innowacyjnym systemem rozpoznania twarzy obywateli przez kamery montowane w miejscach publicznych, biurach i zakładach pracy.
Po dwóch latach pilotażu twórcy systemu przedstawili rządzącej partii obiecujące wyniki: okazało się, że można określić poziom zaufania społecznego do obywatela w stopniu pozwalającym na przyznanie mu pożyczki lub kredytu. Albo nieprzyznanie. Tylko w jednym roku banki odrzuciły ponad 200 tys. wniosków o wydanie karty kredytowej. System okazał się jednak przydatny także na innych polach. Np. z powodu niskiego poziomu zaufania społecznego niektórym obywatelom przestano sprzedawać bilety na samoloty. Ten – de facto – zakaz latania dotknął ponad… 6 milionów osób. W kolejnych latach pojawiły się masowe odmowy sprzedaży biletów na szybki pociąg.
Społeczeństwo to akceptuje, logika władzy jest bowiem porażająca: przecież nikt nie chciałby podróżować z potencjalnym terrorystą. Podobnie nikt nie chciałby, aby w publicznych przetargach startowali przedsiębiorcy o niskim zaufaniu społecznym. No to nie mogą…
Pod koniec 2019 r. wprowadzono w Chinach obowiązek skanowania twarzy przez wszystkich klientów kupujących smartfony. Ma to ułatwić pracę masowo ustawianych w przestrzeni publicznej (i niepublicznej) kamer rozpoznających bezbłędnie każde oblicze i sprzężonych z Sezamem pod nadzorem Ministerstwa Bezpieczeństwa Publicznego. Kamer takich ma być docelowo prawie… 3 miliardy.
W tworzenie systemu zaufania zaangażowane są od początku znane w świecie chińskie korporacje, takie, jak wspomniana Alibaba Group (konkretnie jej spółka Sesame Credit) czy Tencent, największa na świecie firma technologiczna i inwestycyjna wyspecjalizowana w high-techu, rozwoju AI i ekspansji w internecie oraz w branży gier i rozrywki, z filiami we wszystkich zakątkach globu i… podzespołami w setkach milionów produktów na Zachodzie, również tych sygnowanych markami zachodnich koncernów. Tworzy i obsługuje sieci społecznościowe, portale internetowe, serwisy muzyczne (Tencent Music Entertainment – 700 mln użytkowników, 120 mln subskrybentów), e-commerce, gry mobilne, komunikator Tencent QQ, jeden z największych portali internetowych QQ.com, popularną aplikację WeChat. A to nie wszystko, bo Tencent ma setki spółek zależnych właściwie we wszystkich kluczowych branżach. Posiada też akcje wielu znanych przedsiębiorstw, m.in. Riot Games, Supercell, Epic Games, Miniclip.
Władze technologicznych gigantów z Chin cierpliwie tłumaczą, że to tylko biznes, a gromadzenie i analizowanie przez algorytm danych obywateli służy wyłącznie ich wygodzie i bezpieczeństwu. Uczciwi mogą spać spokojnie, zagrożeni są tylko cwaniacy i złodzieje oraz groźni dla państwa wywrotowcy. Baza jest bezpieczna, ponieważ wszystkie informacje o mieszkańcach gromadzone są na serwerach rządowych, nadzorowanych przez MBP. Jak tłumaczy rząd, w takich okolicznościach algorytm nie może przyznać niskich not w systemie zaufania społecznego przypadkowej osobie nie mającej niczego za uszami.
Krytycy Sezamu wskazują, że może on być (jest?) wyjątkowo poręcznym narzędziem w rękach Komunistycznej Partii Chin. Pozwala przecież w łatwy sposób karać idyscyplinować niepokornych oraz zniechęcać do nieposłuszeństwa czy krytykanctwa wszystkich pozostałych, a zarazem premiować (przekupywać) lojalnych i prawomyślnych.
Wszystkim zdumionym skalą inwigilacji w Chinach warto w tym miejscu zwrócić uwagę, że nie ona była inspiracją dla twórców „Nosedive” i innych proroczo-diagnostycznych odcinków „Czarnego lustra”. Charlie Brooker porusza się w rzeczywistości zachodniej - starając się nam wszystkim uświadomić, że również w naszych państwach i społeczeństwach stworzyliśmy zręby Systemów Zaufania Społecznego. Albo nawet więcej niż zręby.
Pokusie agregowania danych w jednej superbazie pozwalającej na błyskawiczne wydobywanie i analizowanie danych wrażliwych o dosłownie każdym obywatelu ulegają zwłaszcza politycy mający tendencję do wykluczania oponentów i krytyków z życia publicznego. W superbazie zyskują poręczne narzędzie do jeszcze skuteczniejszego wykluczania w celu utrwalenia swojej władzy.
Chińczycy są w tej kwestii skazani na wyroki jedynie słusznej partii. My możemy decydować. Jeszcze.