Kompanija OpenAI privremeno je zaustavila jedan od procesa treniranja naprednih modela veštačke inteligencije nakon što su interni testovi otkrili zabrinjavajući nivo sajber sposobnosti sistema u razvoju, objavio je portal Neowin. Kompanija je uvela strože mere zaštite infrastrukture pre nego što je nastavila sa radom.
Reč je o jednom od retkih javno potvrđenih slučajeva u kojima su sposobnosti AI modela bile dovoljno ozbiljne da uspore sopstveni razvoj. Potez OpenAI-ja otvara pitanja o tome kako vodeće kompanije procenjuju rizike i gde postavljaju granicu između istraživačkog napretka i bezbednosne odgovornosti.
Ukratko: OpenAI uveo bezbednosne mere nakon otkrića u internim testovima
- Izvor informacija: Portal Neowin izvestio je da je OpenAI privremeno zaustavio jedan od svojih najnaprednijih AI treninga zbog zabrinjavajućih sajber sposobnosti internih modela.
- Razlog pauze: Interni modeli pokazali su nivo sajber sposobnosti koji je kompanija ocenila kao alarm vredan trenutne intervencije, pre nego što se razvoj nastavi.
- Odgovor kompanije: OpenAI je implementirao strože mere zaštite infrastrukture tokom samog procesa treniranja, a ne tek po završetku razvoja modela.
- Širi kontekst: Ovaj slučaj dolazi u trenutku kada regulatori u SAD i Evropi pojačavaju pritisak na tvorce naprednih AI sistema da uvedu formalne mehanizme procene rizika pre javnog objavljivanja modela.
Šta se desilo i zašto je OpenAI reagovao odmah
OpenAI redovno sprovodi interne testove bezbednosti tokom razvoja novih modela, ali ovaj slučaj je po svemu sudeći prevazišao uobičajene pragove upozorenja. Sajber sposobnosti otkrivene u internim sistemima bile su dovoljno ozbiljne da kompanija nije čekala završetak treninga. Zaustavila je proces i ojačala infrastrukturu u toku.
Precizna priroda tih sposobnosti nije javno objavljena. Nije poznato ni koji je model bio u pitanju, niti u kojoj fazi razvoja je pauza nastupila. OpenAI zasad nije dao zvaničnu izjavu koja bi razjasnila te detalje.
Zašto ovakva odluka odskače od prakse u industriji
Vodeće kompanije koje razvijaju napredne AI sisteme uglavnom o internim bezbednosnim nalazima ne govore javno, posebno ne dok su modeli još uvek u razvoju. Upravo zbog toga je ovaj slučaj neuobičajen. Sam čin objavljivanja da je trening zaustavljen zbog sposobnosti modela šalje signal da je situacija bila dovoljno ozbiljna da je transparentnost postala prioritet.
Pauza ne znači nužno da je model bio blizu toga da postane javno dostupan ili da bi ugrozio korisnike. Ipak, ona potvrđuje da određene sposobnosti AI sistema mogu da se pojave ranije u razvoju nego što kompanije ili istraživači predviđaju.
Bezbednosni pritisak raste, industrija traži odgovore
Ovaj slučaj smešta OpenAI u središte rasprave koja već neko vreme traje među tvorima naprednih AI modela, regulatorima i istraživačima: kako definisati granicu između sistema koji je dovoljno sposoban da bude koristan i onog koji je toliko sposoban da zahteva poseban nadzor.
Regulatorna tela u Sjedinjenim Državama i Evropskoj uniji sve više zahtevaju od kompanija formalne procene rizika pre nego što novi modeli izađu pred javnost. OpenAI je u prošlosti već uspostavio interni tim za bezbednost i objavljivao izveštaje o proceni opasnosti vezanih za konkretne modele. Zaustavljanje treninga koji je već u toku ide korak dalje od pregleda gotovog proizvoda: to je intervencija u samom procesu nastanka modela.
Za tvorce AI sistema, ova odluka postavlja praktičan presedan. Ako se sajber sposobnosti mogu prepoznati i zaustaviti pre nego što model sazri, bezbednosna provera mora da teče kontinuirano tokom razvoja, a ne samo na kraju. To zahteva znatno više resursa i usporava razvoj, ali u sve strože regulisanom okruženju može postati uslov za rad.
