GPT-6 Astra Ultrafast naplaćuje brzinu kao premium API nivo
OpenAI nudi do šest puta brži API uz šest puta više cene tokena; Virtual Arc bi ga koristio samo za uska grla latencije, nikako kao podrazumevani režim.
Šta je lansirano
OpenAI je za GPT-6 Astra uveo Ultrafast kao poseban servisni nivo u Responses API-ju. Dostupan je svim API korisnicima uz početno niske limite, a AWS ga je istovremeno ponudio kroz Amazon Bedrock. NVIDIA navodi ubrzanje generisanja do osam puta, dok AWS za API navodi do šest puta bržu obradu i do 300 tokena u sekundi.
Računica i ograničenja
Za kratki kontekst standardni GPT-6 Astra košta 10 dolara po milionu ulaznih i 50 dolara po milionu izlaznih tokena. Ultrafast podiže te cene na 60 i 300 dolara. OpenAI preporučuje WebSocket veze kako mrežni trošak ne bi pojeo dobitak, a režim ne podržava regionalnu obradu u EU — dostupni su američka lokacija podataka ili globalna obrada.
Naša odluka
Virtual Arc bi Ultrafast stavio iza feature flaga i uključio ga samo za zadatke gde model direktno produžava čekanje korisnika ili blokira sledeći korak agenta. Odluku bismo donosili prema trošku po uspešno završenom zadatku i p95 vremenu izvršenja. Bez dokazane koristi u tim merama, ostali bismo na standardnom režimu.
Stav Virtual Arca je da GPT-6 Astra Ultrafast nije razlog za migraciju modela, već skuplji način da se kupi kraće čekanje. OpenAI za kratki kontekst naplaćuje šest puta više po tokenu nego u standardnom režimu, dok je ubrzanje API obrade deklarisano na do šest puta. Zato ga ne bismo uključili kao podrazumevanu opciju, čak ni za agente. Prvo bismo izdvojili jednu petlju u kojoj model zaista drži kritičnu putanju — na primer interaktivni ciklus izmene koda, poziva alata i provere rezultata — i pustili mali deo saobraćaja kroz Ultrafast. Merili bismo p95 vreme do završenog zadatka, stopu uspeha i ukupan trošak zadatka, a ne brzinu generisanja tokena. Pozadinske poslove, obradu dokumenata i tokove bez korisnika koji čeka ostavili bismo na standardnom režimu ili jeftinijem modelu. Ako ušteda vremena ne pokriva šestostruku cenu, brzina je samo skuplji grafikon u nadzornoj tabli.