GPT-6.1 Terra čini usmeravanje zadataka produkcionim standardom
Novi OpenAI model menja računicu za vizuelne i desktop tokove, ali opravdava novu rutu u sistemu, ne migraciju svega.
Šta je objavljeno
OpenAI je 26. oktobra objavio GPT-6.1 Terra za vizuelno zaključivanje, rad sa aplikacijama i pisanje. Model je dostupan kroz API, ChatGPT Work i Codex, sa kontekstom od 1,05 miliona tokena i standardnom cenom od jednog dolara za milion ulaznih, 0,05 dolara za keširane ulazne i pet dolara za milion izlaznih tokena.
Pozivanje alata zahteva Responses API. Zahtevi sa više od 272.000 ulaznih tokena imaju više tarife, pa naslovna cena nije dovoljan podatak za planiranje produkcionog troška.
Ekonomika, ne potpuna zamena
Terra nije jeftinija kopija najjačeg modela. Na Plotly testu analize podataka rešila je 40 od 43 zadatka, dok je Sol rešio svih 43, ali je ceo Terra test koštao upola manje i imao kraće srednje vreme po pitanju.
Artificial Analysis joj daje rezultat 48 i svrstava je među bolje modele u cenovnom razredu, ali beleži i veću potrošnju izlaznih tokena od medijane. Produkciona prednost zato zavisi od celog zadatka, ne samo od cenovnika.
Kako bismo ga uveli
Mi bismo sada prebacili ograničene, ponovljive i lako proverljive tokove u paralelnu Terra putanju: unos podataka iz faktura, klasifikaciju dokumenata, vizuelno uparivanje i kontrolisane radnje u aplikacijama. Složeno programiranje i nepovratne operacije ostale bi na jačem modelu.
Odluku o migraciji donosili bismo prema trošku po prihvaćenom rezultatu, ukupnom kašnjenju, stopi eskalacije i oporavku od greške. Arhitektura treba da zadrži rezervni model i izbegne vezivanje celog sistema za jednog dobavljača.
GPT-6.1 Terra nije model koji bismo postavili svuda; to je model zbog kog je sve teže opravdati produkcioni sistem bez jeftinije izvršne putanje. Standardna cena od jednog dolara za milion ulaznih i pet dolara za milion izlaznih tokena čini ga ozbiljnim kandidatom za obradu dokumenata, vizuelno uparivanje, popunjavanje obrazaca i ograničene radnje u desktop aplikacijama. Plotly je dobio 40 od 43 tačna rezultata, naspram Solovih 43, uz upola manji trošak testa i kraće srednje vreme po pitanju. To je dovoljno da bismo Terra model odmah uveli u paralelno testiranje, ali nije dovoljno za slepu migraciju. OpenAI i dalje preporučuje Sol ili Astra za najsloženije programerske zadatke, dok nezavisni rezultati pokazuju da Terra donosi bolju ekonomiku, a ne univerzalnu nadmoć. Mi bismo usmeravali ograničene i proverljive zadatke na Terra model, merili trošak po prihvaćenom rezultatu i kašnjenje celog toka, a složene, rizične ili nepovratne radnje prebacivali na jači rezervni model. Timovi koji čekaju jedan model za sve odlažu optimizaciju koju mogu bezbedno da sprovedu već sada.
Pretvorite uvid u sistem koji radi.
Gradimo sloj za paralelno testiranje i usmeravanje koji šalje ograničene vizuelne i desktop zadatke na Terra model, a zahtevne ili nepovratne radnje zadržava na jačoj rezervi. Dodajemo dozvole, revizijski trag i praćenje troška po prihvaćenom rezultatu. Vredi da razgovaramo ako Vaš tim vodi ovakve tokove u produkciji.