Kodeks postępowania w zakresie przejrzystości treści generowanych przez AI
Komisja Europejska opublikowała wytyczne dotyczące obowiązków przejrzystości dla dostawców i podmiotów stosujących niektóre systemy sztucznej inteligencji. Opublikowany został również Kodeks postępowania w zakresie przejrzystości treści generowanych przez AI. Oba dokumenty dotyczą art. 50 AI Act, czyli przepisów, które przesądzają w szczególności o obowiązku informowania osób fizycznych, kiedy wchodzą w interakcję z systemem AI albo mają do czynienia z treścią wygenerowaną lub zmodyfikowaną przez sztuczną inteligencję.
Co do zasady obowiązki przejrzystości z art. 50 AI Act zaczną być stosowane od 2 sierpnia 2026 r. Obejmują m.in. systemy AI przeznaczone do bezpośredniej interakcji z osobami fizycznymi, systemy generujące lub modyfikujące treści syntetyczne w postaci tekstu, obrazu, audio lub wideo, a także obowiązki informacyjne dotyczące deepfake’ów i niektórych treści publikowanych w celu informowania opinii publicznej. Trzeba jednocześnie pamiętać, że AI Act jako rozporządzenie Unii Europejskiej obowiązuje bezpośrednio, natomiast krajowa ustawa o systemach sztucznej inteligencji określa organizację nadzoru nad jego stosowaniem w Polsce. Formalny nadzór nad korzystaniem z systemów AI w aspekcie przestrzegania właściwych przepisów przejmie w Polsce Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.
Istotne znaczenie ma również rozwiązanie przejściowe wynikające z rozporządzenia UE Digital Omnibus on AI. W przypadku systemów sztucznej inteligencji, w tym systemów AI ogólnego przeznaczenia, generujących syntetyczne dźwięki, obrazy, wideo lub tekst, które zostały wprowadzone do obrotu przed 2 sierpnia 2026 r., termin zapewnienia zgodności z art. 50 ust. 2 AI Act został przesunięty do 2 grudnia 2026 r. Nie należy jednak odczytywać tego jako odsunięcia tematu w czasie. To raczej okres, który przedsiębiorcy powinni wykorzystać na prace przygotowawcze do wdrożenia nowego aktu prawnego, np. ustalenie, gdzie w organizacji wykorzystywana jest sztuczna inteligencja, w jakiej roli podmiot występuje (np. czy jest podmiotem stosującym system AI albo dostawcą systemu) i jakie obowiązki będą z tym związane.
Z perspektywy sektora finansowego, w tym firm członkowskich ZPF, nie jest to zagadnienie abstrakcyjne ani wyłącznie technologiczne. Sztuczna inteligencja jest już wykorzystywana w procesach analitycznych, operacyjnych i komunikacyjnych: od obsługi klienta i automatyzacji kontaktu, przez analizę danych i ocenę ryzyka, po przeciwdziałanie nadużyciom, obszar compliance czy dokumentowanie decyzji. W wielu takich procesach kwestia przejrzystości będzie miała bezpośrednie znaczenie dla relacji z klientem.
W przypadku usług finansowych znaczenie przejrzystości jest szczególne. Klient, który kontaktuje się z firmą w sprawie produktu finansowego, reklamacji, zadłużenia, windykacji polubownej albo zgłoszenia podejrzenia nadużycia, powinien wiedzieć, czy po drugiej stronie znajduje się człowiek, czy system AI. Nie chodzi wyłącznie o formalne spełnienie wymogu informacyjnego. Znaczenie ma również to, czy klient rozumie, w jakim procesie uczestniczy i jaką rolę odgrywa w nim technologia, która może wpływać na sposób przekazywania informacji, tempo obsługi, ocenę zgłoszenia albo dalszą komunikację.
Jak powinna być przekazywana informacja o wykorzystywaniu AI?
Wytyczne Komisji wskazują, że informacja o wykorzystaniu AI powinna być przekazana jasno, w sposób rozróżnialny i dostępny, najpóźniej przy pierwszej interakcji albo pierwszym kontakcie z daną treścią. Co ważne, w bardziej wrażliwych sytuacjach jednorazowy komunikat może okazać się niewystarczający. Dotyczy to m.in. takich obszarów jak porady finansowe, ubezpieczenia, pomoc prawna czy obsługa reklamacji, gdzie ryzyko błędnego przypisania komunikatu człowiekowi albo nadmiernego zaufania do systemu AI może być większe.
Wytyczne wskazują również, jakie rozwiązania nie spełniają wymogów art. 50 AI Act. Wypełnienie obowiązków w zakresie przejrzystości nie powinno ograniczać się tylko do dodania ogólnej informacji w regulaminie. Przedsiębiorstwa powinny przeanalizować całą ścieżkę kontaktu z klientem - od komunikatów w aplikacjach, przez działanie chatbotów i voicebotów, po skrypty rozmów, materiały marketingowe i procesy reklamacyjne oraz zasady publikowania treści w kanałach cyfrowych. Dopiero tak kompleksowe podejście umożliwi ocenę, czy informacja o wykorzystaniu AI jest rzeczywiście zrozumiała i dostrzegalna dla odbiorcy oraz czy pojawia się we właściwym momencie.
Znaczenie nowych wytycznych trzeba też oceniać w szerszym kontekście regulacyjnym. Firmy działające na rynku finansowym już dziś funkcjonują w otoczeniu przepisów dotyczących ochrony konsumentów, danych osobowych, cyberbezpieczeństwa, tajemnicy przedsiębiorstwa, przeciwdziałania nadużyciom, zarządzania ryzykiem i odpowiedzialnej komunikacji z klientem. Obowiązki wynikające z AI Act będą więc nakładały się na istniejące procesy, a nie zastępowały je.
Kodeks postępowania dotyczący przejrzystości treści generowanych przez AI pokazuje, w jakim kierunku może rozwijać się praktyka rynkowa. Mowa jest m.in. o oznaczeniach nadających się do odczytu maszynowego, mechanizmach wykrywania takich oznaczeń, interoperacyjności, odporności i niezawodności rozwiązań technicznych, a także o czytelnych oznaczeniach widocznych dla odbiorców. Należy jednak wyraźnie odróżnić obowiązki wynikające z AI Act od samego Kodeksu. Dokument ten może być praktycznym punktem odniesienia przy projektowaniu rozwiązań technicznych i organizacyjnych wspierających realizację obowiązków wynikających z AI Act, jednak jego stosowanie nie zwalnia z oceny, czy konkretne działanie spełnia wymogi prawa.
Podobnie samo oznaczenie treści jako wygenerowanej lub zmodyfikowanej przez AI nie przesądza jeszcze o legalności jej wykorzystania. Nadal konieczna jest ocena zgodności z przepisami o ochronie konsumentów, ochronie danych osobowych, prawach autorskich, dobrach osobistych czy tajemnicy przedsiębiorstwa. Przejrzystość jest warunkiem istotnym, ale nie zastępuje pozostałych obowiązków prawnych.
Dla firm członkowskich ZPF najważniejsze jest teraz przejście od ogólnej znajomości wymogów wynikających z AI Act do uporządkowania konkretnych zastosowań sztucznej inteligencji w organizacjach. Przedsiębiorstwa powinny ustalić, z jakich systemów korzystają, jaka jest ich rola w odniesieniu do tych systemów, jakie treści są generowane lub modyfikowane, kto odpowiada za ich oznaczenie, jak wygląda nadzór człowieka i w jaki sposób dokumentowana jest zgodność z przepisami. Szczególnej uwagi wymagają także relacje z dostawcami technologii i podmiotami zewnętrznymi uczestniczącymi w tworzeniu, modyfikowaniu lub dystrybucji treści.
Regulacje dotyczące AI powinny być jasne, proporcjonalne i możliwe do zastosowania w realnych procesach rynkowych. Dlatego pracujemy nad wzorcowym dokumentem AI Governance, który ma wspierać firmy członkowskie ZPF w bezpiecznym, etycznym i zgodnym z prawem wykorzystywaniu systemów sztucznej inteligencji. Dokument taki, który powinien istnieć w każdej organizacji, która wykorzystuje sztuczną inteligencję, ma na celu określenie podstawowych elementów zarządzania technologią AI w firmie. Nie chodzi wyłącznie o to, które przedsiębiorstwo szybciej wdroży nowe narzędzia AI. Coraz większe znaczenie będzie miało to, kto potrafi stosować je w sposób zrozumiały dla klienta, osadzony w jasnych procedurach wewnętrznych i odporny na ryzyka prawne oraz reputacyjne.
Od ponad 25 lat ZPF działa na rzecz rozwoju rynku finansowego w Polsce i podnoszenia standardów etycznych w branży, występuje aktywnie jako partner społeczny w procesach legislacyjnych, a także reprezentuje polskie instytucje finansowe w UE.
