OpenAI pauzira obuku najnaprednijih modela zbog mogućeg kritičnog sajber rizika Astre
Dvonedeljna pauza RL obuke i nastavak zastoja najvećeg planiranog treninga pretvaraju neizvesnost oko izlaska modela u arhitektonski problem.
Šta se promenilo
OpenAI je 18. avgusta objavio da je uveo dvonedeljnu pauzu u RL obuci najnovijih modela namenjenih objavljivanju, dok je najveći planirani trening najnaprednijeg modela i dalje na čekanju. Kompanija navodi dva odvojena razloga: incident na platformi Hugging Face u kojem je učestvovao drugi neobjavljeni sistem i preliminarne pokazatelje da bi Astra mogla da dostigne kritični prag sajber sposobnosti.
Operativni signal
OpenAI navodi da je značajan broj procesa povezanih sa Astrom i dalje pauziran dok ne ispuni strože zahteve za izolaciju izvršavanja, mrežnu izolaciju i nadzor. Prošireni sistem nadzora prema proceni dodaje oko 20% računarskog opterećenja delu inferencije koji obuhvata, a OpenAI je za The Register izjavio da taj trošak neće direktno prebaciti na korisnike.
Šta bismo uradili
Neposredna posledica nije novi API, već neizvesnost. OpenAI nije dao procenu kašnjenja Astre, pa timovi koji su je uvrstili u plan sada imaju zavisnost bez pouzdanog datuma i bezbednosni sloj koji može nastaviti da se menja.
Virtual Arc ne bi vezao rok isporuke za Astru i prestao bi da tretira najavljene, ali neobjavljene modele kao infrastrukturu sa pouzdanim datumom. Najvažniji signal nije oznaka na jednom sajber testu, već činjenica da bezbednosne i izolacione mere sada mogu da zaustave obuku, migraciju istraživačkih procesa i planirani izlazak modela kada su proizvodni planovi već napravljeni. To povećava cenu vezivanja za jednog dobavljača čak i ako cena tokena ostane ista: plaća se kroz odložene migracije, ponovljene evaluacije, izmenjene dozvole za alate i neizvestan kapacitet. Mi bismo nastavili da isporučujemo na modelima koji su dostupni danas, zadržali prenosive promptove, alate i evaluacije, a Astru držali u paralelnom režimu testiranja dok se ne ustale ponašanje API-ja, ograničenja, uslovi čuvanja podataka i latencija. Za agente sa pristupom osetljivim sistemima primenili bismo istu lekciju kod sebe: izolovano izvršavanje, ograničen mrežni pristup, potpun dnevnik akcija i prekidač za hitno zaustavljanje pre svake nadogradnje. Čekanje Astre nije strategija; strategija je arhitektura kojoj njeno kašnjenje ne menja plan isporuke.