Zakaz rozpoznawania emocji w pracy obowiązuje już od 2 lutego 2025 r., a pracodawcy nadal podlegają RODO, prawu pracy i przepisom antydyskryminacyjnym.
AI w rekrutacji jako system wysokiego ryzyka
Załącznik III do AI Act obejmuje systemy przeznaczone do rekrutacji lub wyboru osób fizycznych, w szczególności do zamieszczania ukierunkowanych ogłoszeń, analizowania i filtrowania podań oraz oceny kandydatów. Do tej samej grupy należą rozwiązania wpływające na warunki stosunku pracy, awanse, rozwiązanie umowy, przydzielanie zadań na podstawie zachowania lub cech osobistych oraz monitorowanie i ocenę wyników pracowników.
O kwalifikacji decyduje przeznaczenie systemu i rzeczywisty wpływ jego wyniku, a nie nazwa produktu. Narzędzie opisane przez sprzedawcę jako asystent rekrutera może pozostawać wysokiego ryzyka, jeżeli jego punktacja przesądza, które CV zostaną odrzucone albo kto otrzyma zaproszenie. Formalna obecność człowieka nie wystarczy, gdy pracownik mechanicznie zatwierdza rekomendacje algorytmu lub nie ma czasu i informacji potrzebnych do ich zakwestionowania.
Komisja Europejska w materiałach dotyczących klasyfikacji wskazuje przykłady systemów używanych przez agencje zatrudnienia do oceny kandydatów i kojarzenia ich z ofertami. Jeżeli rekomendacje bezpośrednio wpływają na to, komu zostanie przedstawiona konkretna praca, system mieści się w kategorii rekrutacyjnej. Podobnie jest z automatycznym filtrem oznaczającym niektóre zgłoszenia jako ryzykowne i spychającym je na koniec kolejki, zwłaszcza gdy dochodzi do profilowania.
Zakaz rozpoznawania emocji podczas rozmowy
Najbardziej jednoznaczne ograniczenie obowiązuje już teraz. AI Act zakazuje wykorzystywania systemów rozpoznawania emocji w miejscu pracy, a Komisja Europejska interpretuje ten zakaz szeroko, obejmując nim również rekrutację i okres próbny. Niedopuszczalna może być analiza twarzy, tonu głosu lub innych sygnałów biometrycznych w celu wywnioskowania, czy kandydat jest zestresowany, pewny siebie, szczery, entuzjastyczny albo odporny na presję.
Zakaz nie obejmuje każdego programu analizującego obraz lub dźwięk. Narzędzie sprawdzające jakość połączenia, wykonujące transkrypcję albo potwierdzające, że przed kamerą znajduje się właściwa osoba, nie staje się automatycznie systemem rozpoznawania emocji. Kluczowe jest to, czy na podstawie danych biometrycznych wnioskuje o emocjach lub intencjach. Wyjątki od zakazu odnoszą się do zastosowań medycznych lub związanych z bezpieczeństwem, a nie do zwiększania skuteczności selekcji kandydatów.
RODO przed pełnym wdrożeniem AI Act
Przesunięcie pełnych obowiązków dla systemów wysokiego ryzyka do 2 grudnia 2027 r. nie zawiesza ochrony kandydatów. Jeżeli algorytm przetwarza dane osobowe, pracodawca musi wskazać podstawę prawną, ograniczyć zakres informacji, określić okres przechowywania oraz zapewnić przejrzystość. Szczególne znaczenie ma art. 22 RODO, dotyczący decyzji opartych wyłącznie na zautomatyzowanym przetwarzaniu, które wywołują skutki prawne lub w podobny sposób istotnie wpływają na osobę.
Automatyczne odrzucenie kandydatury bez realnej ingerencji człowieka może spełniać te warunki. Wówczas pracodawca nie powinien traktować zgody kandydata jako wygodnego, uniwersalnego rozwiązania, ponieważ w relacji z podmiotem oferującym zatrudnienie dobrowolność zgody może budzić wątpliwości. Potrzebna jest analiza konkretnej podstawy prawnej i zapewnienie środków ochrony, w tym możliwości uzyskania interwencji człowieka, przedstawienia własnego stanowiska i zakwestionowania decyzji, jeżeli wymaga tego RODO.
Obowiązki pracodawcy wobec systemu AI
Po rozpoczęciu stosowania przepisów dla systemów wysokiego ryzyka dostawca będzie odpowiadał m.in. za zarządzanie ryzykiem, jakość danych, dokumentację techniczną, rejestrowanie zdarzeń, przejrzystość, nadzór człowieka, dokładność, odporność i cyberbezpieczeństwo. Pracodawca korzystający z narzędzia jako podmiot stosujący otrzyma własny zestaw obowiązków. Będzie musiał używać systemu zgodnie z instrukcją, wyznaczyć kompetentne osoby do nadzoru, kontrolować dane wejściowe pozostające pod jego kontrolą, monitorować działanie i przechowywać logi, którymi dysponuje.
Przed wdrożeniem systemu wysokiego ryzyka w miejscu pracy podmiot stosujący powinien poinformować przedstawicieli pracowników i osoby, których dotyczy wykorzystanie rozwiązania. Samo kupienie narzędzia od renomowanego producenta nie zwalnia pracodawcy z odpowiedzialności za sposób zastosowania. Firma, która zmieni przeznaczenie systemu albo wprowadzi istotną modyfikację, może w określonych okolicznościach przejąć obowiązki dostawcy.
Dyskryminacja ukryta w danych rekrutacyjnych
Ryzyko nie musi wynikać z jawnego użycia płci, wieku czy pochodzenia. Model może odtworzyć wcześniejsze nierówności na podstawie historii zatrudnienia lub wykorzystać zmienne zastępcze, takie jak kod pocztowy, przerwy w karierze, nazwa szkoły czy sposób formułowania zgłoszenia. Jeżeli historycznie określona grupa rzadziej awansowała, algorytm uczony na takich wynikach może potraktować tę zależność jako wzorzec sukcesu.
Dlatego audyt nie powinien ograniczać się do sprawdzenia trafności całej populacji. Potrzebne są testy wyników dla poszczególnych grup, analiza fałszywych odrzuceń, możliwość odtworzenia drogi decyzji i procedura obsługi skargi. Kandydat powinien wiedzieć, gdy podlega wykorzystaniu systemu wysokiego ryzyka wspierającego decyzję dotyczącą jego osoby. Po wejściu w życie odpowiednich przepisów w określonych przypadkach będzie mógł także żądać jasnego i znaczącego wyjaśnienia roli systemu oraz głównych elementów decyzji.
Audyt rekrutacji bez czekania do 2027 r.
Firmy powinny już teraz sporządzić wykaz systemów używanych w HR, w tym funkcji wbudowanych w platformy rekrutacyjne. Następnie należy ustalić, które narzędzia jedynie organizują pracę, a które oceniają ludzi lub wpływają na dostęp do zatrudnienia. Osobnego przeglądu wymagają moduły analizujące obraz i głos. Jeżeli producent reklamuje wykrywanie emocji, osobowości na podstawie twarzy albo prawdomówności z tonu wypowiedzi, ryzyko prawne jest natychmiastowe, a nie odroczone do 2027 r.
Źródła
- Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689, w szczególności art. 5, art. 6, art. 26 i załącznik III.
- Komisja Europejska, wytyczne dotyczące zakazanych praktyk AI.
- Komisja Europejska, projekt wytycznych dotyczących klasyfikacji systemów AI wysokiego ryzyka, 19 maja 2026 r.
- AI Act Service Desk, przykłady systemów stosowanych w zatrudnieniu i rekrutacji.
- Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679, w szczególności art. 13, art. 15 i art. 22.
- Komisja Europejska, informacja o porozumieniu politycznym dotyczącym AI Omnibus, 7 maja 2026 r.
Współpracował z Wirtualną Polską, Wprost, Zieloną Interią. Komentuje wydarzenia polityczne dla Polskiego Radia. Zajmuje się polityką międzynarodową i krajową na łamach Gazety Prawnej. Pasjonat technologii i nauki.