Przyjęte przez PE prawo dotyczące sztucznej inteligencji ma chronić środowisko, demokrację, praworządność i prawa człowieka przed nadużyciami, do których może dojść przy jej zastosowaniu. Jednocześnie jego celem jest wspierać rozwój technologii, czyniąc z Unii Europejskiej lidera w dziedzinie AI.
Prawo Unii Europejskiej odnośnie sztucznej inteligencji
Nowe przepisy przede wszystkim zabraniają pewnych zastosowań generatywnej sztucznej inteligencji. Kluczowym przykładem są systemy kategoryzacji biometrycznej, wykorzystujące pobrane w sposób nieukierunkowany wizerunki osób z internetu lub nagrań telewizyjnych, aby tworzyć narzędzia służące do rozpoznawania twarzy. Zabronione będzie ponadto używanie AI w celu identyfikacji emocji pracowników w miejscu pracy i w szkole, prognozowanie przestępczości na podstawie profilu osobowego czy manipulowanie ludźmi i wykorzystywanie ich słabości. Wyjątkami od tej reguły będą szczególne przypadki, związane z działaniami służb specjalnych.
Osobny paragraf poświęcony został tzw. systemom wysokiego ryzyka, wykorzystywanym w infrastrukturze krytycznej, edukacji, służbie zdrowia, planowaniu zawodowym itd. Służą one np. do zarządzania migracją i granicami czy wpływania na wyborców. Zgodnie z nowym prawem tego rodzaju systemy będą teraz musiały oceniać i ograniczać ryzyko oraz prowadzić rejestry zdarzeń. Mają być też przejrzyste i dokładne, oraz podlegać kontroli ludzkiej. Obywatele UE będą też mogli składać skargi w związku z AI i żądać wyjaśnienia decyzji podjętych przy pomocy tego narzędzia.
Z kolei systemy sztucznej inteligencji ogólnego przeznaczenia muszą spełniać określone wymogi przejrzystości oraz być zgodne z unijnym prawem autorskim, co polegać ma m.in. na publikacji dokładnego zestawienia materiałów zastosowanych do treningu modeli.