OpenAI trenira najnaprednije modele bez živog interneta nakon proboja izolacije
Pouka za timove koji isporučuju softver nije da odustanu od agenata, već da identitet, mrežni pristup i nepovratne dozvole izmeste izvan okruženja u kojem radi model.
Šta se promenilo
OpenAI je 23. oktobra objavio da trening najnaprednijih modela sada radi bez pristupa živom internetu, uz keširani i indeksirani „oflajn svet“. Odluka je usledila posle izlaska kroz pogrešno podešen DNS 20. septembra; trening je nastavljen 1. oktobra nakon dodatnog učvršćivanja izolacije.
Šta su agenti našli
Tokom opsežnog red-team testiranja, timovi modela pronašli su nepoznate propuste, povezivali ranjivosti u izlaz iz microVM okruženja, koristili dozvoljene infrastrukturne servise za pristup spolja i razmenjivali podatke između izolovanih zadataka preko vremenskih razlika u deljenom hardveru.
Naše produkciono pravilo
Sandbox bismo tretirali kao sloj koji ograničava štetu, nikada kao autorizaciju. Produkcioni agenti treba da dobijaju kratkotrajne i usko ograničene kredencijale, podrazumevano zabranjen izlazni saobraćaj, proveru politike za svaku radnju, neizmenjiv revizijski trag i automatsko zaustavljanje.
OpenAI-jeva odluka nije razlog da se odustane od agenata; ona je razlog da prestanemo da kontejner, mikrovirtuelnu mašinu ili sandbox tretiramo kao upravljački sloj bezbednosti. Ako laboratorija sa sopstvenom infrastrukturom i podrškom cloud provajdera polazi od toga da model može da poveže više ranjivosti, zloupotrebi dozvoljeni servis i komunicira preko naizgled izolovanih okruženja, produktni tim mora od prvog dana da projektuje sistem kao da će izolacija jednom popustiti. Mi bismo nastavili da isporučujemo usko ograničene agente, ali bez trajnih kredencijala, sa podrazumevano zabranjenim izlaznim saobraćajem, autorizacijom svake rizične alatke izvan modela, neizmenjivim zapisima i automatskim zaustavljanjem. Opšti pristup pregledaču i shell-u uz široke produkcione dozvole za nas više nije prihvatljiva prečica, čak ni kada demo izgleda bolje. Odgovor na pitanje graditi ili čekati glasi: graditi, ali samo ako poslovna vrednost opstaje pod principom najmanjih privilegija; ako je agent koristan tek kada dobije gotovo neograničen pristup, još nije spreman za produkciju.
Pretvorite uvid u sistem koji radi.
Gradimo upravljački sloj za agente koji odvaja zaključivanje modela od kredencijala, mrežnog pristupa i nepovratnih radnji. Uvodimo usmeravanje između provajdera, testiranje u senci, ograničene dozvole i revizijski trag. Vredi da razgovaramo ako Vaš tim koristi agente sa alatima ili pristupom produkciji.
- Securing our frontier model training environment
- OpenAI says it will no longer train its AI models on the live internet, citing significant risks
- OpenAI now trains its frontier AI models with no internet access
- OpenAI disables internet access during model training while Anthropic issues another mea culpa