Serwery ze sztuczną inteligencją do zainstalowania we własnym biurze? Asus ma nowy pomysł

Sprzęt w obiektach należących do klienta

Nowością w ofercie firmy z Tajpej, zwanej AFS Appliance, jest to, że w celu zachowania bezpieczeństwa i kontroli, cały sprzęt zostanie zainstalowany w obiektach należących do klienta. Platforma obliczeniowa AI, zbudowana na technologii chipowej Nvidia Corp., będzie obsługiwana i aktualizowana o nowe dane przez firmę AsusTeK, znaną również jako Asus.

Głównym problemem związanym z usługami, takimi jak OpenAI, jest to, że są one obsługiwane przez internetowe centra danych, co może prowadzić do ujawnienia poufnych informacji. Samsung Electronics Co. zabronił pracownikom korzystania z ChatGPT OpenAI po tym, jak wykrył, że pracownicy przesłali poufny kod na platformę.

Ile to będzie kosztować?

Asus wstępnie załaduje sprzęt AFS z własnym dużym modelem językowym, zwanym Formosa, który według niego jest odpowiednikiem ChatGPT 3.5 i jest przystosowany do pracy z tradycyjnym językiem chińskim. Firma zamierza wycenić usługę na około 6 tys. USD miesięcznie, zapowiedział Asus Cloud i prezes TWS Peter Wu w poniedziałkowym wywiadzie.

Powiedział, że oferta o najwyższej specyfikacji, która dodaje platformę superkomputera Nvidia DGX AI, będzie kosztować około 10 tys. USD miesięcznie. Współpracując z lokalną firmą telekomunikacyjną, Wu zamierza do końca tego roku mieć od 30 do 50 klientów korporacyjnych na Tajwanie i rozwijać się na arenie międzynarodowej.

„Nvidia jest naszym partnerem, aby przyspieszyć wdrażanie tej technologii w przedsiębiorstwach” — powiedział Wu. „Przed ChatGPT przedsiębiorstwa nie były świadome, dlaczego potrzebują tak dużej mocy obliczeniowej”.

Dobre rozwiązanie dla firm?

Według Wu większość firm wdroży generatywną sztuczną inteligencję we własnych obiektach, ponieważ będą chciały chronić dostęp do danych. „Potrzebują inteligentnego mózgu pod własną kontrolą i zarządzaniem, ponieważ będzie to dotyczyło najbardziej wrażliwych danych” – powiedział.

Niedawno szef chmury Asusa, wracając z podróży do Singapuru, powiedział, że widzi duże zainteresowanie ze strony banków i szpitali. W kontekście klinicznym generatywna sztuczna inteligencja pomogłaby lekarzom w szybszym dokumentowaniu leczenia i wizyt pacjentów, a także pomogłaby w przekazywaniu pacjentom diagnoz w bardziej przystępny sposób.