Kadry pod lupą Brukseli, czyli systemy wysokiego ryzyka
Na gruncie AI Act systemy sztucznej inteligencji wykorzystywane w obszarze zatrudnienia, zarządzania pracownikami oraz dostępu do samozatrudnienia zostały oficjalnie zakwalifikowane jako systemy wysokiego ryzyka. Klasyfikacja ta dotyczy w szczególności algorytmów stosowanych do filtrowania aplikacji rekrutacyjnych, oceny wydajności, przydzielania zadań oraz podejmowania decyzji o zakończeniu stosunku pracy. Podmiot zatrudniający, który decyduje się na wdrożenie takich rozwiązań, staje się w świetle prawa „stosującym system AI” i musi dostosować się do nowych, sztywnych ram prawnych.
Człowiek nad maszyną: twarde obowiązki firm
Zapewnienie nadzoru ludzkiego to najważniejszy obowiązek, jaki unijny ustawodawca nakłada na pracodawców. Firma ma ustawowy obowiązek wyznaczyć osoby posiadające odpowiednie kompetencje, które będą stale kontrolować działanie algorytmu. Osoby te muszą mieć realną możliwość zignorowania, zawieszenia lub nadpisania decyzji podjętej przez system. Dodatkowo, przedsiębiorstwo musi automatycznie rejestrować i przechowywać logi generowane przez system AI w celu umożliwienia późniejszej kontroli prawidłowości jego działania. Przed samym uruchomieniem algorytmu konieczne jest również przeprowadzenie formalnej analizy ryzyka pod kątem potencjalnej dyskryminacji pracowników.
Milionowe kary za technologiczne kłamstwa
Niedopełnienie procedur związanych z systemami wysokiego ryzyka lub stosowanie systemów bezwzględnie zakazanych wiąże się z drastycznymi sankcjami finansowymi. Maksymalne kary przewidziane w AI Act mogą sięgać do 35 milionów euro lub do 7% globalnego rocznego obrotu przedsiębiorstwa z poprzedniego roku obrotowego, w zależności od tego, która kwota jest wyższa. Taki poziom sankcji ma na celu wymuszenie na zarządach spółek pełnej transparentności w testowaniu i wdrażaniu narzędzi algorytmicznych.
Koniec z tajnymi algorytmami rekrutacji i awansów
Wprowadzenie AI Act diametralnie zmienia pozycję prawną pracownika, dając mu realne narzędzia do walki z nietransparentnymi decyzjami maszynowymi. Pracodawca jest zobowiązany do jednoznacznego i uprzedniego poinformowania pracowników oraz ich przedstawicieli, na przykład związków zawodowych, że dany system AI wysokiego ryzyka będzie stosowany w miejscu pracy. Pracownik nie może być zaskakiwany faktem, że jego praca jest oceniana przez algorytm, o którego istnieniu nie miał pojęcia.
Prawo do wyjaśnienia, czyli jak kontrolować decyzje bota
Jeżeli system AI podjął lub istotnie wpłynął na decyzję wywołującą skutki prawne bądź negatywnie wpływającą na sytuację zatrudnionego, pracownik ma prawo zażądać od pracodawcy jasnego i zrozumiałego wyjaśnienia roli systemu AI w procedurze decyzyjnej. Dotyczy to w szczególności sytuacji takich jak odmowa awansu, przeniesienie na niższe stanowisko czy wytypowanie do zwolnienia. Wyjaśnienie ze strony firmy musi zawierać precyzyjną informację o kryteriach oceny oraz o danych, jakie algorytm brał pod uwagę przy analizie danego pracownika. Ponadto pracownicy zyskują możliwość składania oficjalnych skarg do krajowych organów nadzorczych.
FAQ
Czy od sierpnia 2026 roku szef może użyć AI, żeby sprawdzić, czy pracownik jest zestresowany lub niezadowolony?
Nie. AI Act wprowadza bezwzględny zakaz stosowania w miejscu pracy systemów sztucznej inteligencji służących do rozpoznawania emocji osób fizycznych. Wykorzystywanie kamer lub oprogramowania do analizy wyrazu twarzy bądź tonu głosu w celu oceny samopoczucia pracownika jest nielegalne.
Co mogę zrobić, jeśli system AI odrzucił moje CV w rekrutacji, a uważam, że spełniałam wymagania?
Kandydat do pracy ma prawo zażądać od niedoszłego pracodawcy wyjaśnienia, jakie parametry i kryteria zdecydowały o odrzuceniu jego aplikacji przez algorytm. Pracodawca ma obowiązek wykazać, że system działał pod nadzorem człowieka i nie doszło do złamania zasad równego traktowania.
Gdzie pracownik może zgłosić, że pracodawca łamie przepisy AI Act?
Skargi będzie można składać do specjalnie powołanego w Polsce krajowego organu nadzoru nad sztuczną inteligencją lub bezpośrednio do Państwowej Inspekcji Pracy. PIP w ramach kontroli legalności zatrudnienia będzie weryfikować przestrzeganie procedur nadzoru nad systemami wysokiego ryzyka.
