Odpowiednia diagnoza to podstawa, od której powinno się zaczynać leczenie. Przewidywanie zdarzeń rynkowych i pozostawianie w budżecie rezerwy na możliwe awarie to cechy dobrego menedżera. Szybka reakcja na potrzeby klienta pozwala firmie wyrobić sobie przewagę nad konkurencją, a analiza statystyczna zachowań społecznych może pomóc rządzącym lepiej planować wydatki i wspierać najbardziej potrzebujących obywateli. Te wszystkie zadania może wprawdzie wykonywać sztab doświadczonych ekspertów, ale człowiek – choćby poświęcił na to lata – nie przyswoi sobie tylu treści i danych, ile w krótkim czasie przetworzy maszyna wspomagana tzw. sztuczną inteligencją (SI).
SI ma być rewolucją porównywalną do wynalezienia elektryczności. Ma zmienić nasze życie na lepsze i gwałtownie przyspieszyć rozwój cywilizacji. Tak przynajmniej przekonują informacje prasowe publikowane przez liczne agencje marketingowe. Tyle że wiele firm już od lat wykorzystuje systemy wspomagane SI, a efekty bywają opłakane. Co rusz słychać doniesienia o tym, jak algorytmy w mediach społecznościowych dyskryminują treści przedstawiające mniejszości etniczne oraz promują materiały kontrowersyjne zamiast rzetelnych i sprawdzonych faktów. Maszyny mają też dyskryminować kobiety na rynku pracy, a w Stanach Zjednoczonych – prowadzić do niesłusznego osadzania Afroamerykanów w więzieniach i odbierania biedniejszym rodzinom dzieci.
Czy jednak maszyna może dyskryminować? Przecież powinna być wolna od ludzkich uprzedzeń i doświadczeń wpływających na ocenę faktów. Kłopot w tym, że za produkcję treści, które są podstawą do nauki SI, najczęściej odpowiada człowiek. I wówczas to jego błędy, troski i traumy skutkują powstaniem stereotypowych, dyskryminujących danych, które maszyna później – pomimo braku własnych emocji – powiela. Innym razem spoglądająca na świat swoim cybernetycznym okiem SI dostrzega potwierdzenie stereotypów. Wówczas jej analizy mogą się niektórym wydać dyskryminujące – choć znajdują potwierdzenie w statystykach.
