Mercury 2.5 donosi izuzetno brze i jeftine pomoćne pozive za AI agente
Difuzioni model kompanije Inception obećava 1.107 tokena u sekundi i veoma nisku cenu, ali je njegov najbolji početni posao pomoćni sloj agentskog sistema, ne zamena za glavni model.
Šta je objavljeno
Inception je 8. septembra objavio Mercury 2.5, difuzioni jezički model sa kontekstom od 260.000 tokena, podesivim rezonovanjem, paralelnim pozivima alata i izlazom usklađenim sa JSON šemom. Kompanija navodi propusnost od 1.107 tokena u sekundi na široko dostupnim NVIDIA grafičkim procesorima.
Gde menja računicu
Redovna cena iznosi 0,20 dolara za milion ulaznih i 0,75 dolara za milion izlaznih tokena, uz početni popust od 80 odsto. Ta kombinacija je najzanimljivija kada jedan korisnički zahtev pokreće veliki broj kratkih, uzastopnih modelskih poziva.
Šta bismo uradili
Virtual Arc bi prvo usmerio pomoćne, lako proverljive zadatke na Mercury 2.5, dok bi glavni frontier model ostao odgovoran za planiranje, procenu rizika i završne odgovore. Odluku o širem prelasku doneli bismo tek nakon sopstvenih testova kvaliteta, stabilnosti i cene po završenom zadatku.
Mercury 2.5 je važan manje kao još jedan četbot, a više kao signal da pomoćni pozivi unutar agentskog sistema više ne moraju da nose cenu i latenciju glavnog modela. Virtual Arc ga ne bi odmah stavio iza krajnjeg odgovora, složenog planiranja ili radnji koje je teško opozvati: Inception ga po kvalitetu poredi sa ekonomičnim, a ne vodećim frontier modelima, dok ga OpenRouter i dalje označava kao Preview. Ipak, odmah bismo ga testirali kao pomoćni model za usmeravanje zahteva, prepisivanje upita, rerangiranje rezultata, sažimanje konteksta i generisanje strukturisanog JSON-a. Merili bismo pouzdanost poziva alata, greške u šemi, p95 i p99 latenciju, kao i cenu po uspešno završenom zadatku, a budžet bismo računali prema redovnoj ceni od 0,20 dolara za milion ulaznih i 0,75 dolara za milion izlaznih tokena, ne prema promotivnom popustu. Ako prođe interne testove, Mercury 2.5 ne treba da zameni glavni model; treba da ukloni skupe, ponavljajuće poslove oko njega. To je manja migracija, jasnije ograničava rizik i verovatno je najbrži put do stvarnog produkcionog dobitka.