Zbytnie poleganie na AI może być niebezpieczne. Na początku czerwca br. złośliwy program o nazwie Miasma przejął ponad 70 cyfrowych baz danych Microsoftu. Kilka dni później pojawił też się w systemie do pobierania programów i zaczął infekować tzw. komponenty, czyli gotowe fragmenty kodu w programach dostępnych dla użytkowników, w tym przedsiębiorców, do pobrania.
Zagrożenia cyfrowe jakie niesie AI są nowe ale do opanowania
Jak zauważa firma Exorigo-Upos najważniejsze w tej historii jest to, w jaki sposób złośliwy program ukrywa się i utrzymuje dostęp do systemu. Miasma zapisuje się w ustawieniach Claude Code, czyli AI dla programistów. Dzięki temu może uruchamiać się ponownie wraz z każdym użyciem narzędzia i wykradać wrażliwe informacje, takie jak hasła czy klucze dostępu. – Wykorzystanie AI w organizacjach staje się coraz powszechniejsze. Z rozmów z naszymi klientami wynika jednak, że niewielu z nich rozumie zagrożenia związane z wykorzystaniem sztucznej inteligencji, a jeszcze mniej wie, jak się przed nimi skutecznie bronić. To, jakie środki bezpieczeństwa wdrożymy, powinno natomiast bezpośrednio wynikać z analizy ryzyka przeprowadzanej w organizacji. Pytanie jednak, jak skutecznie taką analizę przeprowadzić, jeżeli nie rozumiemy technologii i nie widzimy, jakie zagrożenia ze sobą niesie – komentuje Michał Tomaszewski CISO, Security Team Manager w Exorigo-Upos i Co-founder & Board Member Knoxtera.
Najczęstsze zagrożenia i ryzyka dla bezpieczeństwa związane z AI
W wielu organizacjach stosuje się zasady minimalnych dostępów. Niemniej zasada ta stosowana jest wybiórczo. Uprawnienia administratora lokalnego nie są ograniczane dla części zespołów, w tym często dla programistów. Firmy zakładają, że są to świadomi użytkownicy, więc ryzyko jest niskie. Jeżeli jednak organizacja korzysta z agentów AI do tworzenia kodu, obraz ryzyka zmienia się diametralnie. Uprawnienia lokalnego administratora, nawet w przypadku grup programistycznych, tworzą dodatkowe ryzyka, których wcześniej nie zagrażały firmie. Najczęstszy błąd polega na tym, że narzędzia typu Claude Code działają lokalnie na stacji roboczej programisty i dziedziczą uprawnienia użytkownika.
- W takim modelu popełniamy jeden z największych błędów, dajemy sztucznej inteligencji uprawnienia szersze niż powinna posiadać. Może to doprowadzić do sytuacji, w której AI będzie miało dostęp do danych, do których nie powinno, np. kluczy i poświadczeń lub nawet wykonania dowolnej operacji. W najgorszym wypadku może to doprowadzić do uszkodzenia danego środowiska poprzez usunięcie plików, zmianę konfiguracji lub uruchomienie skryptu – zauważa Michał Tomaszewski.
Tego typu zagrożenia to jednak nie wszystko. Wiele firm jest przekonane, że wprowadzenie polityki AI to wystarczające zabezpieczenie. Przedsiębiorcy uważają, że są wolni od zagrożeń, bo pracownicy są poinformowani, że nie mogą wrzucać do modeli danych danego typu np. stanowiących tajemnicę przedsiębiorstwa lub zawierające dane osobowe, albo powinni korzystać z licencji komercyjnych. Samo używanie płatnych wersji narzędzi nie chroni jednak organizacji przed wyciekiem lub utratą informacji. Jeżeli licencja jest wykupiona przez pracownika i ma charakter prywatny, firma traci kontrolę nad ustawieniami dla wskazanych modeli, np. nad tym, czy AI może wykorzystywać dane do uczenia się. Dodatkowo po odejściu pracownika organizacja traci to, co znajduje się na jego prywatnym koncie, a sam pracownik może nadal mieć dostęp do danych przedsiębiorstwa nawet długo po zmianie pracy.
Brak kontroli nad użyciem danych przez AI prowokuje zagrożenia
Liczne firmy nie kontrolują tego, co jest wprowadzane do AI. Same polityki mówiące o tym, aby nie umieszczać w modelach np. danych klientów, mogą być niewystarczające. Prostota i oszczędność czasu, jakie daje korzystanie z AI, bywają po prostu zbyt kuszące. Dlatego w przypadku, kiedy jako organizacja nie blokujemy całkowicie zewnętrznych modeli i np. nie udostępniamy własnych narzędzi, powinniśmy wdrożyć systemy bezpieczeństwa stworzone do monitorowania, kontrolowania i blokowania poufnych danych. Kontrola ryzyka przed jego powstaniem to podstawa. W przeciwnym razie największa wartość wielu organizacji, czyli know-how, nie jest skutecznie chroniona. Przy przeprowadzaniu analizy ryzyka warto zatem rozumieć technologię oraz stosować sprawdzone metodyki. Dodatkowo przy wdrażaniu nowych narzędzi lub technologii warto ponownie przeprowadzić analizę ryzyka, bo czasem nawet pozornie niewielka zmiana może mieć znaczący wpływ na poziom ryzyka.
Rośnie liczba i prawdopodobieństwo zagrożenia cyfrowego
Jak wskazują najnowsze analizy, liczba wykrywanych podatności w systemach AI dynamicznie rośnie. Według raportu TrendAI™ State of AI Security tylko w 2025 roku odnotowano przeszło 2000 nowych luk bezpieczeństwa, co oznacza ponad 30 proc. wzrost rok do roku. Eksperci TrendAI™ zwracają także uwagę, że systemy sztucznej inteligencji stają się coraz częstszym celem ataków. Liczba wykrywanych podatności w obszarze AI rośnie szybciej niż w całym ekosystemie IT. W 2025 roku tego typu systemy odpowiadały już za ponad 4% wszystkich zgłoszonych podatności w oprogramowaniu – to najwyższy wynik w historii.
Łącznie w ostatnich latach zidentyfikowano już przeszło 6 tysięcy luk bezpieczeństwa związanych ze sztuczną inteligencją. Co istotne, znacząca część z nich ma wysoki lub krytyczny poziom zagrożenia, co oznacza, że mogą prowadzić do przejęcia systemów, wycieku danych lub poważnych zakłóceń w działaniu infrastruktury. Coraz więcej z podatności dotyczy także mających duże dostępy agentów AI oraz serwerów, które pozwalają modelom, takim jak Claude czy ChatGPT, bezpieczne łączyć się z zewnętrznymi narzędziami w czasie rzeczywistym.
Dziennikarz z zawodu i zamiłowania. Zajmuje się tematyką gospodarczą, prawną i finansową, szczególnie nowymi technologiami, i komunikacją oraz mediami. Poza dziennikarstwem zajmuje się fotografią, jeździ na nartach i uwielbia Hiszpanię. Z marką INFOR związany wcześniej, zaczynał przygodę z dziennikarstwem w Gazecie Prawnej. Od kwietnia 2026 r. już jako dziennikarz internetowy przygotowuje i publikuje artykuły na portalu Forsal.pl.