Naukowcy kontra OpenAI. Dowód na rozwój AI irytuje matematyków

"Genialny matematyk" czyli jak AI hurtowo rozwiązuje problemy matematyczne

Dokładnie 6 października OpenAI udostępniło ogromne, bo zawierające 700 plików, repozytorium zawierające materiały z badań nad problemami matematycznymi. W dokumentach tych znalazło się ponad 370 wyników matematycznych z różnych dziedzin. Wyróżnić tutaj można działy takie jak algebra, logika matematyczna czy informatyka teoretyczna.

Wszystkie te wyniki mają być dziełem i zarazem pokazem możliwości najnowocześniejszych modeli sztucznej inteligencji właśnie od OpenAI. Jest to już kolejny tego rodzaju pokaz możliwości, bo w zeszłym miesiącu firma pochwaliła się, że jej modele rozwiązały jeden z najtrudniejszych problemów matematycznych na świecie, czyli równanie Naviera-Stokesa.

Dla przeciętnego odbiorcy i entuzjasty AI takie informacje mogą być czymś ciekawym i potwierdzającym, jak potężne możliwości ma dzisiaj sztuczna inteligencja. Samo OpenAi zapewne także liczyło na docenienie i uznanie w oczach samych matematyków. Okazuje się jednak, że zamiast tego, spotkali się dość... chłodnym, a wręcz niechętnym podejściem.

Naukowcy nie popierają praktyk OpenAI

Ten dość osobliwy wyczyn firmy, bardziej niż zachwyt, wywołał obawy niektórych naukowców. Część z nich podkreśla, że takie laboratoria, jakie ma OpenAI nie powinny rozwiązywać najbardziej zaawansowanych problemów matematycznych na zastrzeżonych modelach AI, do których dostępu nie ma szersza grupa naukowców.

Niezależna grupa ekspertów matematycznych z The Institute for Advanced Study w Princetown w stanie New Jersey wydała oświadczenie, w którym podkreśla, iż nie popiera takich praktyk. W głównej mierze chodzi tutaj o kwestię odpowiedzialności za przedstawiane wyniki.

Obecnie sztuczna inteligencja może generować argumenty matematyczne, których człowiek ją promptujący, nie jest w stanie zrozumieć, zweryfikować czy wziąć za nie odpowiedzialności. Wierzymy, że ludzkie zrozumienie matematyki pozostaje niezwykle ważne. - fragment oświadczenia niezależnej grupy ekspertów z The Institute for Advanced Study w Princetown

OpenAI jeszcze pod koniec września, chcąc nieco załagodzić podejście naukowców do tematów rozwiązywania matematycznych problemów przez AI, ogłosiło, że nawiąże współpracę ze wspomnianym instytutem. Jej celem było lepsze zrozumienie opinii matematyków, w kwestii tego, jak powinno wyglądać dalsze rozwijanie AI pod kątem tego rodzaju dokonań. Jednocześnie firma jasno zadeklarowała, że nie zamierza przestać testować swoich modeli pod tym kątem.

Wyniki, których nikt nie chciał i "nikt nie prosił"

Znacznie ostrzej do dokonań OpenAI podeszli matematycy z Association for Human Mathematics. Przedstawiciele tej organizacji w bardziej stanowczym oświadczeniu stwierdzili, że matematycy nie prosili firmy o wykorzystanie badań i udostępnienie wyników. Podkreślali dodatkowo, że bardzo wątpliwym posunięciem był sposób publikacji wyników.

Matematycy nie domagali się wykonania tej pracy. Grupa Doradcza ds. Matematyki i Sztucznej Inteligencji, od której OpenAI czerpie swoją legitymację, rozpoczęła swoje wstępne oświadczenie doradcze stwierdzeniem, że pionierskie firmy zajmujące się sztuczną inteligencją nie powinny testować zaawansowanych problemów matematycznych na modelach wewnętrznych. Ignorując centralne założenie stanowiska Grupy Doradczej, OpenAI wykazało całkowity brak poszanowania norm badań naukowych – norm, które gwarantują, że matematyka pozostaje godna zaufania, etycznie badana i leży w interesie publicznym. - fragment oświadczenia Association for Human Mathematics

Na tym jednak krytyka OpenAI się nie kończy, bo w ostatnim akapicie oświadczenia znalazł się przytyk w kierunku sposobu udostępnienia plików. Zdaniem AHM udostępnienie 700 plików nie jest żadnym dowodem na geniusz AI, a bardziej pokazem możliwości danego modelu. Organizacja nawołała także innych matematyków do zaprzestania współpracy z OpenAI i powrotu do "wizji nauki, w której centrum znajduje się ludzkie zrozumienie".