Sztuczna inteligencja coraz częściej profiluje i ocenia ludzi w internecie. To droga do nowego podziału społeczeństwa.
3-letni Wong zaspał do pracy. Ubrał się w pośpiechu, wsiadł do auta i, próbując ścigać się z czasem, przekroczył dozwolony w mieście limit prędkości. Chwilę później usłyszał za sobą syrenę i zobaczył w lusterku migające światła radiowozu. Policjant wystawił mandat i poinformował Wonga, że za przekroczenie prędkości odjęto mu kilkanaście punktów w systemie oceny obywateli. Niewiele, ale gdy trzydziestolatek dotarł do pracy, dowiedział się, że jego średnia ocena jest już za niska, by mógł nadal być zatrudniony w firmie wymagającej od pracowników nieposzlakowanej opinii. Nagła utrata zatrudnienia zabolała podwójnie, bo za ten fakt Wong stracił kolejne punkty. I w rankingu obywateli spadł jeszcze niżej.
Czy to fabuła dystopijnej powieści? Nie. Ale choć to wyimaginowana historia, to jej punkt wyjścia jest prawdziwy: od ponad pół roku mieszkańcy 12 chińskich miast są oceniani przez komputer. Do 2020 r. Systemem Oceny Obywateli (Social Credit System, SCS) ma być objęty cały kraj – 1,3 mld ludzi. Aż 17 proc. mieszkańców Ziemi. Jak działa SCS? Zachowania i działania „wybrańców” są analizowane oraz punktowane. Teoretycznie chodzi o zachęcenie do przestrzegania przepisów i regulaminów. Punkty można więc stracić np. za jazdę bez ważnego biletu w komunikacji miejskiej, palenie w niedozwolonych miejscach czy stosowanie w pracy mobbingu. Rating rośnie, gdy spłaca się kredyty w terminie lub ma dobre wyniki w pracy. W praktyce SCS może inwigilować znacząco głębiej, bo system monitoruje też korespondencję wysyłaną przez WeChat, najpopularniejszy komunikator internetowy w Państwie Środka. W przyszłym roku SCS wzbogaci się o kolejny element kontroli, bo wszystkie samochody w Chinach będą musiały mieć zamontowany chip monitorujący lokalizację pojazdu.
Przedstawiciele Pekinu przekonują, że osoby łamiące zasady powinny być karane. A najlepiej, by groziło im bankructwo, bo nic tak nie boli jak utrata majątku. Tylko przymuszając ludzi do wzorcowych zachowań, można zadbać o budowanie godnego zaufania społeczeństwa. Niska ocena wystawiona przez SCS ma swoje konsekwencje. Osobom ze słabym ratingiem odmawia się sprzedaży biletów szybkiej kolei (4,2 mln przypadków tylko w jednym miesiącu) oraz podróży lotniczych (11 mln przypadków).
Reklama