Wdrażanie narzędzi AI - największe wyzwania dla firm
Według raportu PARP „Sztuczna inteligencja w firmach: gotowość do adopcji, kompetencje i potrzeby”, jednymi z największych obaw firm (zarówno tych planujących wdrożenia, jak i już korzystających z AI) są naruszenie ochrony danych firmowych oraz ryzyko błędnych decyzji algorytmicznych (po 39 proc.).
Jednak perspektywa zmienia się wraz z poziomem wiedzy i doświadczenia. W firmach, które już korzystają z AI, lęk przed wyciekiem danych wzrasta do poziomu 47 proc. Wśród obaw, które wyrażają przedsiębiorstwa, znalazły się wysokie koszty zabezpieczeń oraz utraty kontroli nad tym, w jaki sposób algorytmy są tworzone.
Największym problemem z perspektywy cyberbezpieczeństwa nie jest to, że AI ukradnie dane, ale to, że pracownicy firm karmią algorytmy informacjami wrażliwymi, a firmy nie mają nad tym procesem żadnej kontroli. Do publicznych modeli językowych często wrzucane są poufne dokumenty, na przykład w celu przygotowania podsumowania. Pracownicy nie zdają sobie sprawy, że te dane stają się częścią bazy, na której trenowany jest model językowy - zauważa Paweł Kulpa, Cybersecurity Architect z Safesqr.
Według niego największe wyzwania związane z cyberbezpieczeństwem wynikają z nieznajomości tematu i braku odpowiednich procedur w organizacji. Dlatego też skuteczną odpowiedzią na te zagrożenia jest połączenie odpowiedniej technologii z jasno określonymi procedurami bezpieczeństwa.
Zdecydowanie lepszym rozwiązaniem jest wdrożenie własnych, lokalnych, zamkniętych modeli AI, które zachowują przepływ danych wewnątrz organizacji oraz połączenie tego z systemami DLP monitorującymi ruch zewnętrzny. Takie narzędzia potrafią wykryć próbę wysłania wrażliwych informacji poza firmę szybciej niż jakikolwiek audytor - dodaje.
Problem z procedurami bezpieczeństwa
Według raportu PARP gotowość do wdrożenia narzędzi AI jest bezpośrednio związana ze stanem infrastruktury IT w danej firmie. Przedsiębiorstwa chętniej wdrażają nowe rozwiązania, jeśli dysponują bezpiecznym i stabilnym systemem oraz nowoczesnym zapleczem technicznym.
Choć 23 proc. badanych firm już wykorzystuje AI do wykrywania nieprawidłowości, a kolejne 28 proc. planuje takie kroki, to wciąż pojawiają się braki w obszarze proceduralnym. Jedynie 41 proc. firm wdrażających AI posiada wypracowane kompleksowe procedury bezpieczeństwa.
Najpopularniejsze działania ochronne firm koncentrują się na systematycznym szkoleniu pracowników w zakresie bezpiecznej obsługi systemów AI (41 proc.). Wysoko w rozwiązaniach znalazła się także ścisła współpraca z zewnętrznymi ekspertami ds. cyberbezpieczeństwa oraz wdrażanie zaawansowanych środków ochrony przed nieautoryzowanym dostępem do systemów.
Firmy często szukają w AI magicznych rozwiązań, zapominając o higienie cyfrowej. Tymczasem największym wyzwaniem jest fakt, że cyberprzestępcy już używają AI do personalizowania ataków phishingowych na masową skalę ocenił Kulpa.
Ekspert zaznaczył, że przed wdrożeniem zaawansowanej sztucznej inteligencji, firma musi zainwestować w solidne podstawy:
- wieloskładnikowe uwierzytelnianie (MFA),
- efektywnie działające zarządzanie uprawnieniami (IAM),
- segmentację sieci,
- jasne procedury reagowania na incydenty.
AI w bezpieczeństwie powinno być drugą linią obrony i systemem, który analizuje anomalie w zachowaniu użytkowników i blokuje je w czasie rzeczywistym, ale tylko pod warunkiem, że pierwsza linia, czyli świadomy pracownik i szczelny system, działa bez zarzutu - dodał.
Jakie są wnioski dla biznesu?
Obawy przed AI wynikają często z braku dojrzałości cyfrowej. Przedsiębiorstwa, które zaczynają od małych, bezpiecznych projektów, w których nie są angażowane dane wrażliwe, szybciej oswajają technologię i budują przewagę konkurencyjną. Kluczem do sukcesu nie jest unikanie AI, lecz postawienie na bezpieczeństwo na każdym etapie jej wdrażania, od szkolenia kadr po regularne audyty.
Raport „Sztuczna inteligencja w firmach: gotowość do adopcji, kompetencje i potrzeby” został opracowany przez Polską Agencję Rozwoju Przedsiębiorczości we współpracy z Uniwersytetem Jagiellońskim. Badanie łączy analizę danych zastanych, badania jakościowe oraz szeroko zakrojone badanie ilościowe wśród pracodawców.
