ADM to procesy podejmowania decyzji za pomocą środków technologicznych i bez udziału człowieka. Przykładowo, jeśli klient chce wziąć pożyczkę z banku internetowego, to na stronie internetowej zostanie poproszony o podanie swoich danych, a algorytm poinformuje go, czy bank udzieli pożyczki, czy nie, i poda sugerowaną stopę procentową. W takiej sytuacji klient musi zostać poinformowany, że może zakwestionować decyzję algorytmu i zażądać, aby o przyznaniu mu kredytu zdecydował pracownik banku.
Europosłowie uważają, że gdy konsumenci wchodzą w interakcje z systemem ADM, powinni być „odpowiednio informowani o tym, jak on działa, jak mogą dotrzeć do człowieka posiadającego uprawnienia decyzyjne oraz jak można sprawdzać i korygować decyzje systemu”.
Systemy te powinny wykorzystywać wyłącznie wysokiej jakości i obiektywne zestawy danych oraz „obiektywne algorytmy” w celu zwiększenia zaufania konsumentów. Komisja parlamentu wskazała, że to ludzie "zawsze muszą być ostatecznie odpowiedzialni za decyzje podejmowane w ramach ADM i być w stanie je unieważnić ”, szczególnie w odniesieniu do sektora medycznego, prawniczego, bankowego i księgowości.
Posłowie w rezolucji wzywają Komisję Europejską do przedstawienia propozycji legislacyjnej, dostosowującej unijne przepisy bezpieczeństwa dotyczące produktów (dyrektywę w sprawie bezpieczeństwa maszyn i zabawek), aby chronić konsumentów. Wzywają również do opracowania systemu oceny ryzyka dla sztucznej inteligencji i ADM.
Przypominają, że zgodnie z prawem UE przedsiębiorcy muszą informować konsumentów o spersonalizowaniu ceny towarów lub usług na podstawie ADM, prosząc KE o ścisłe monitorowanie wdrażania tych przepisów. Ich zdaniem Komisja powinna też sprawdzić, w jaki sposób stosuje się unijne rozporządzenie zakazujące nieuzasadnionego blokowania geograficznego, aby zapewnić, że ADM nie jest wykorzystywany do dyskryminowania konsumentów ze względu na ich narodowość, miejsce zamieszkania lub tymczasową lokalizację.
Rezolucja, zatwierdzona w komisji 39 głosami, przy braku głosów przeciwnych i czterech wstrzymujących się, zostanie poddana pod głosowanie przez całą izbę podczas najbliższej sesji plenarnej.
Po głosowaniu na posiedzeniu plenarnym propozycja rezolucji zostanie przekazana Radzie UE (państwom członkowskim) i Komisji Europejskiej. Komisja ogłosiła, że przedstawi swoje plany dotyczące europejskiego podejścia do sztucznej inteligencji 19 lutego.
Z Brukseli Łukasz Osiński (PAP)
