Podstawę prawną stanowi art. 50 unijnego AI Act. Przepis nakłada na dostawców systemów przeznaczonych do bezpośredniego kontaktu z osobami fizycznymi obowiązek zaprojektowania rozwiązania w taki sposób, aby rozmówca został poinformowany, że komunikuje się ze sztuczną inteligencją. Wyjątek dotyczy sytuacji, w których jest to oczywiste dla osoby rozsądnie poinformowanej, uważnej i ostrożnej, biorąc pod uwagę okoliczności oraz kontekst użycia. Firma nie powinna jednak opierać całego modelu zgodności na założeniu, że klient sam rozpozna nienaturalny głos albo charakterystyczny sposób formułowania odpowiedzi.
Komisja Europejska wskazuje, że komunikat powinien pojawić się najpóźniej w chwili pierwszego kontaktu lub pierwszego zetknięcia użytkownika z systemem. Nie musi przyjmować identycznej postaci w każdej usłudze. W czacie może być krótkim zdaniem nad polem rozmowy, w połączeniu telefonicznym komunikatem głosowym, a w urządzeniu obsługiwanym głosem jednoznaczną informacją odtworzoną przed rozpoczęciem właściwej interakcji. Istotny jest efekt: użytkownik nie może zostać pozostawiony w błędnym przekonaniu, że po drugiej stronie znajduje się pracownik.
Chatbot w banku, sklepie i urzędzie
Nowe zasady będą miały szerokie zastosowanie, ponieważ automatyczna obsługa klienta nie jest już ograniczona do prostych odpowiedzi na pytania o godziny otwarcia. Systemy generatywne potrafią analizować treść reklamacji, proponować produkt, przyjmować zgłoszenia szkód, pomagać przy składaniu wniosku kredytowego albo wyjaśniać status postępowania. Im bardziej naturalna jest rozmowa i im większa swoboda systemu, tym wyższe ryzyko, że klient uzna go za człowieka.
Samo ujawnienie, że rozmowę prowadzi AI, nie legalizuje jednak każdej praktyki. Nadal obowiązują przepisy o ochronie danych osobowych, prawach konsumenta, tajemnicy bankowej, poufności informacji medycznych i zakazie wprowadzania w błąd. Jeżeli bot zbiera dane potrzebne do rozpatrzenia reklamacji albo rozpoznaje klienta na podstawie głosu, przedsiębiorca musi posiadać odrębną podstawę prawną przetwarzania informacji. AI Act nie zastępuje RODO i nie tworzy ogólnej zgody na wykorzystywanie danych tylko dlatego, że interakcja odbywa się automatycznie.
Informacja o AI bez pozornych komunikatów
Komunikat nie powinien zostać ukryty w wielostronicowym regulaminie ani przedstawiony dopiero po zakończeniu rozmowy. Art. 50 wymaga informacji jasnej, rozpoznawalnej i dostępnej, a więc dopasowanej również do osób z niepełnosprawnościami. W praktyce przedsiębiorca powinien sprawdzić nie tylko treść komunikatu, lecz także moment jego wyświetlenia lub odtworzenia, kontrast, czytelność oraz zgodność wersji głosowej z charakterem kanału kontaktu.
Problematyczne mogą być rozwiązania hybrydowe, w których rozmowę rozpoczyna bot, a następnie przejmuje ją człowiek albo pracownik korzysta z podpowiedzi generowanych w czasie rzeczywistym. Jeżeli klient początkowo komunikuje się bezpośrednio z systemem AI, powinien zostać o tym poinformowany. Gdy sztuczna inteligencja jedynie wspiera konsultanta, lecz nie występuje wobec klienta jako samodzielny rozmówca, obowiązek z art. 50 ust. 1 nie musi działać w taki sam sposób. Nadal mogą jednak powstać obowiązki wynikające z ochrony danych i zasad rzetelnej informacji.
Wyjątki dla ścigania przestępstw
AI Act przewiduje wąski wyjątek dla systemów wykorzystywanych zgodnie z prawem do wykrywania przestępstw, zapobiegania im, prowadzenia dochodzeń lub ścigania sprawców. Nie jest to ogólne zwolnienie dla administracji ani podmiotów zajmujących się bezpieczeństwem. Warunkiem pozostaje istnienie odpowiednich zabezpieczeń praw i wolności osób trzecich, a system musi służyć jednemu z celów wskazanych w rozporządzeniu.
Oddzielne reguły dotyczą systemów rozpoznawania emocji i kategoryzacji biometrycznej. Jeśli ich wykorzystanie jest dozwolone, osoby poddane działaniu takiego rozwiązania również powinny otrzymać informację. W miejscu pracy i placówkach oświatowych rozpoznawanie emocji jest co do zasady zakazane już od 2 lutego 2025 r., poza zastosowaniami uzasadnionymi względami medycznymi lub bezpieczeństwa. Firma nie może zatem uznać, że wystarczy poinformować pracownika o analizie nastroju, aby system stał się legalny.
Kary za brak informacji o chatbocie
Naruszenie obowiązków przejrzystości z art. 50 może zostać objęte administracyjną karą do 15 mln euro, a w przypadku przedsiębiorstwa do 3 proc. jego całkowitego światowego rocznego obrotu z poprzedniego roku finansowego, zależnie od tego, który pułap jest wyższy. Dla małych i średnich przedsiębiorstw, w tym start-upów, obowiązuje łagodniejsza zasada: górną granicą jest niższa z tych dwóch wartości. Są to maksymalne limity, a nie automatyczna stawka za każdy brak komunikatu. Organ ma uwzględniać charakter, wagę i czas naruszenia, liczbę poszkodowanych, skalę szkody, współpracę firmy oraz działania naprawcze.
Przed 2 sierpnia przedsiębiorca powinien ustalić, w których punktach kontaktu system odpowiada samodzielnie, a w których wyłącznie wspiera pracownika. Następnie trzeba poprawić interfejs, scenariusz rozmowy i dokumentację dostawcy, a także przygotować procedurę przekierowania sprawy do człowieka, jeżeli wymagają tego odrębne przepisy lub charakter usługi. Największym błędem byłoby ograniczenie zmian do dopisku w regulaminie, którego klient nie widzi podczas rozmowy.
Źródła
- Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689, w szczególności art. 50 i art. 99.
- Komisja Europejska, wytyczne dotyczące przejrzystości systemów AI oraz konsultacje zakończone 3 czerwca 2026 r.
- Komisja Europejska, Kodeks postępowania w zakresie oznaczania i etykietowania treści generowanych przez AI, 10 czerwca 2026 r.
- AI Act Service Desk, materiały wyjaśniające obowiązki przejrzystości.
Współpracował z Wirtualną Polską, Wprost, Zieloną Interią. Komentuje wydarzenia polityczne dla Polskiego Radia. Zajmuje się polityką międzynarodową i krajową na łamach Gazety Prawnej. Pasjonat technologii i nauki.