OpenAI Pando otkriva skriveni infrastrukturni trošak programerskih agenata
OpenAI je prepravio Git pozadinu za paralelni rad na nivou Codexa. Većina timova treba da preuzme merenja i kontrole, ne arhitekturu.
Infrastrukturni signal
OpenAI je 2. novembra predstavio Pando, pozadinski sistem kompatibilan sa Gitom koji sada opslužuje njegov monorepozitorijum. Prema kompaniji, paralelni rad koji je omogućio Codex povećao je broj grana, slanja izmena, spajanja i CI preuzimanja, dok je pouzdanost prethodnog sistema povremeno padala ispod 90 odsto.
Šta Pando menja
Pando ne menja način rada programera. Nezavisne grane mogu da se ažuriraju odvojeno, dok se paketi čuvaju i ponovo koriste za veliki broj čitalaca. OpenAI navodi gotovo pet puta manju medijanu kašnjenja pri slanju izmena i skoro petabajt isporučenih Git podataka dnevno.
Naša odluka
Ovu arhitekturu ne treba kopirati samo zbog imena kompanije koja ju je napravila. Zadržali bismo Git, merili čekanje u CI-u, neuspešna spajanja, ponovljena preuzimanja i rizik dozvola, pa zatim izolovali rad agenata i uveli evaluacije i odobrenja pre povećavanja paralelizma.
Naš stav je da Pando nije signal da svaki razvojni tim treba da prepravlja Git. To je dokaz da se, kada programerski agenti rade paralelno, usko grlo pomera sa inteligencije modela na sistem oko njega: izolaciju grana, opterećenje CI-a, čitanje repozitorijuma, koordinaciju spajanja izmena, dozvole i revizijski trag. OpenAI radi pod izuzetnim unutrašnjim opterećenjem i odgovorio je pozadinom kompatibilnom sa Gitom koja je, prema navodima kompanije, gotovo pet puta smanjila medijanu kašnjenja pri slanju izmena, ali Pando i dalje nije proizvod dostupan drugim timovima. Mi bismo zadržali poznati Git interfejs, merili čekanje i greške u fazama preuzimanja, testiranja i spajanja, ograničili paralelni rad agenata prema vlasništvu nad servisima i zahtevali proverljiva odobrenja za rizične izmene. O zameni pozadine razmišljali bismo tek kada podaci pokažu da je zaista problem u kontroli verzija. Za većinu timova, kopiranje Panda sada bi donelo veliki platformski teret, a ne bi rešilo češće probleme: sukobljene izmene, slabe evaluacije i preširoke dozvole.
Pretvorite uvid u sistem koji radi.
Gradimo razvojne tokove za AI agente oko Vašeg postojećeg Git i CI okruženja, sa ograničenim dozvolama, revizijskim tragom, evaluacijama i radom u senci pre nego što paralelni agenti menjaju produkcioni kod. Ako Vaš tim širi upotrebu programerskih agenata, a spajanje izmena ili CI postaju operativni rizik, vredi da razgovaramo.