Lokalna sztuczna inteligencja, czyli AI działająca bezpośrednio na komputerze użytkownika lub w firmowej infrastrukturze.
O tym, czym jest Edge AI i dlaczego może zmienić sposób działania przedsiębiorstw, w programie Szymona Glonka „Obiektywnie o Biznesie” mówił Dariusz Piotrowski, dyrektor zarządzający Dell Technologies Polska.
Chmura i lokalne AI nie konkurują ze sobą
Jak podkreślał gość programu, błędem jest traktowanie rynku technologicznego w sposób „zero-jedynkowy”.
– „Nie ma świata, gdzie jest albo chmura, albo lokalne przetwarzanie. Te światy współistnieją, one są komplementarne” – tłumaczył Dariusz Piotrowski.
Największe modele językowe nadal będą trenowane w gigantycznych centrach danych. To tam powstają rozwiązania oparte o miliardy parametrów i ogromną skalę obliczeń. Jednak czym innym jest trenowanie modeli, a czym innym ich codzienne używanie.
– „Jeżeli mamy swoje dane i relatywnie nieduży model językowy, to nie ma dużego powodu, żeby wysyłać wszystko do chmury i z powrotem” – mówił szef Dell Technologies Polska.
To właśnie w obszarze tzw. inferencji, czyli codziennego wykorzystywania AI, lokalne rozwiązania zaczynają odgrywać coraz większą rolę.
AI na własnym biurku
Jeszcze niedawno uruchomienie zaawansowanego modelu AI wymagało dostępu do dużych serwerowni. Dziś sytuacja wygląda zupełnie inaczej.
Dell pokazuje urządzenia, które mieszczą się na biurku, a jednocześnie są w stanie obsługiwać modele językowe jeszcze kilka lat temu zarezerwowane wyłącznie dla hyperscalerów.
– „Pierwsze urządzenie to jest 10 na 10 centymetrów, taki mały boksik, w którym dziś możemy uruchomić cały model ChatGPT 3.5” – podkreślał Piotrowski.
Według niego rozwój procesorów GPU, coraz większa gęstość pamięci i miniaturyzacja podzespołów sprawiły, że lokalna AI stała się realnym rozwiązaniem dla małych i średnich firm.
To oznacza, że przedsiębiorstwo może analizować własne dokumenty, faktury, dane kontrahentów czy dokumentację prawną bez konieczności wysyłania ich do zewnętrznych systemów.
Bezpieczeństwo jako kluczowy argument
Rosnące zainteresowanie lokalną sztuczną inteligencją wynika nie tylko z kosztów, ale również z cyberbezpieczeństwa.
– „W pewnym sensie tracimy kontrolę, kiedy wysyłamy dane do publicznych modeli językowych” – zauważył Piotrowski.
W modelu lokalnym dane pozostają w organizacji. Firma może wytrenować system wyłącznie na własnych zasobach i zachować pełną kontrolę nad informacjami.
– „Bezpieczeństwo jest nieporównane, bo te dane nigdzie nie wypływają” – podkreślał.
To szczególnie ważne w czasie rosnących zagrożeń cyfrowych i napiętej sytuacji geopolitycznej.
Komputer osobisty wraca do centrum gry
Jeszcze przed pandemią wielu ekspertów przewidywało schyłek komputerów osobistych. Rozwój smartfonów i tabletów miał całkowicie zmienić rynek. Tymczasem AI daje pecetom nowe życie.
– „Dziś PC ma nowe życie, dlatego że staje się de facto asystentem AI” – mówił gość programu.
Komputer przestaje być jedynie narzędziem do obsługi poczty czy tworzenia prezentacji. Coraz częściej staje się lokalnym centrum przetwarzania sztucznej inteligencji.
Ponad 600 zgłoszeń do konkursu „AI na twoim biurku”
Dell Technologies postanowił sprawdzić, jak polskie firmy, instytucje i twórcy wykorzystują lokalną AI w praktyce. Tak powstał konkurs „AI na twoim biurku”.
Skala zainteresowania zaskoczyła organizatorów.
– „Spodziewaliśmy się może pięćdziesięciu, może stu zgłoszeń. Dostaliśmy sześćset trzydzieści” – przyznał Piotrowski.
Wśród projektów znalazły się rozwiązania związane z automatyzacją procesów, analizą danych, obrazowaniem 3D, bezpieczeństwem infrastruktury krytycznej, ale też bardziej społeczne inicjatywy.
Jednym z przykładów był projekt cyfrowego dziennika rodzinnych wspomnień, umożliwiającego nagrywanie i analizowanie historii opowiadanych przez dziadków i pradziadków.
Co istotne, około jednej piątej zgłoszeń pochodziło ze sfery publicznej – od samorządów, ministerstw i instytucji publicznych.
Sztuczna inteligencja: Bielik i polska droga
W rozmowie pojawił się również temat Bielik – polskiego modelu językowego rozwijanego w formule open source.
– „To ważne, żebyśmy mieli też swoją odsłonę lokalnych modeli” – podkreślał Piotrowski.
Według niego Polska ma trzy kluczowe elementy potrzebne do rozwoju AI: kompetencje ludzi, dostęp do danych oraz coraz większą moc obliczeniową.
– „Mamy jednych z najlepszych algorytmików, matematyków i architektów tych rozwiązań” – zaznaczał.
AI nie zabierze pracy?
Jednym z najczęściej powracających pytań pozostaje wpływ AI na rynek pracy. Dariusz Piotrowski przekonuje jednak, że obecnie technologia ma przede wszystkim zwiększać efektywność.
Dell już dziś wykorzystuje AI do optymalizacji zamówień, prognozowania sprzedaży, zarządzania łańcuchem dostaw czy wspierania działów R&D przy tworzeniu kodu.
– „Nie zwalniamy ludzi z powodu AI” – zapewnił.
Jego zdaniem sztuczna inteligencja będzie raczej wspierać pracowników i stabilizować zatrudnienie niż prowadzić do masowych redukcji.
Sztuczna inteligencja to maraton, nie sprint
Choć zainteresowanie sztuczną inteligencją nadal jest ogromne, Piotrowski uważa, że rynek dopiero uczy się realnego wykorzystania tej technologii.
– „Szukajmy mikro rozwiązań, krok po kroku” – mówił.
Zamiast oczekiwać natychmiastowej rewolucji, firmy powinny koncentrować się na niewielkich usprawnieniach procesów. Nawet kilka procent poprawy efektywności w wielu miejscach organizacji może przełożyć się na ogromne korzyści dla całej gospodarki.
– „Jeśli na każdym stanowisku pracy poprawimy efektywność o trzy, pięć procent, to całe PKB może wzrosnąć o pięć procent” – podsumował szef Dell Technologies Polska.
