Claude Fable 5.2 je model za eskalaciju, ne novi podrazumevani izbor
Anthropicov novi granični model je jeftiniji od Fable 5.1 i široko dostupan, ali promene API-ja i pravila čuvanja podataka čine kontrolisano rutiranje sigurnijim od potpune migracije.
Šta je objavljeno
Anthropic je 9. novembra objavio Claude Fable 5.2 po ceni od 8 dolara za milion ulaznih i 40 dolara za milion izlaznih tokena. Model ima kontekst od milion tokena, izlaz do 128.000 tokena i dostupan je preko Claude API-ja, AWS-a, Google Clouda i Microsoft Foundryja.
Opcioni brzi režim ubrzava generisanje, ali ulaz i izlaz naplaćuje dvostruko više od standardnog režima.
Nije prosta zamena
Migracija zahteva više od promene imena modela. Adaptivno rezonovanje je stalno uključeno, određeni oblici prinudnog izbora alata vraćaju grešku, a parametri poput temperature moraju biti uklonjeni iz zahteva.
Tu je i pitanje podataka: standardni pristup može podrazumevati čuvanje upita i odgovora do 30 dana radi bezbednosnog nadzora, osim kada je drugačiji režim izričito odobren.
Naš izbor
Zadržali bismo jeftiniji model za svakodnevni saobraćaj, a Fable 5.2 koristili kao kontrolisanu eskalaciju za dugačke i nejasne zadatke. Najpre bismo ga testirali paralelno na stvarnim produkcionim tragovima, bez uticaja na korisnike.
Saobraćaj bismo preusmerili tek kada podaci pokažu bolji trošak po završenom zadatku, manje ručnih intervencija i prihvatljivo kašnjenje. Sposobniji model nije automatski i bolji produkcioni izbor.
Claude Fable 5.2 nije novi podrazumevani model, već nivo eskalacije za poslove na kojima jeftiniji modeli uporno padaju. Sa cenom od 8 dolara za milion ulaznih i 40 dolara za milion izlaznih tokena povoljniji je od Fable 5.1, ali je i dalje dvostruko skuplji od Opus 5.5, dok brzi režim ponovo udvostručuje cenu tokena. Veći problem je operativan: adaptivno rezonovanje je obavezno, prinudni izbor alata može vratiti grešku, a standardni pristup može zahtevati čuvanje upita i odgovora 30 dana. Mi ne bismo samo promenili oznaku modela u produkciji i nadali se najboljem. Postavili bismo Fable iza rutera, puštali stvarne zadatke kroz paralelne testove bez uticaja na korisnike i slali mu samo nejasne migracije, otkrivanje kvarova kroz više repozitorijuma, duga istraživanja i druge poslove gde neuspeh jeftinijeg modela već košta više od eskalacije. Odluka o širem korišćenju mora da zavisi od troška po završenom zadatku, kašnjenja, potrebe za ljudskom intervencijom i pouzdanosti vraćanja na prethodni model, a ne od rezultata sa lansiranja. Model vredi testirati odmah, ali samo kroz merljiv i reverzibilan put.
Pretvorite uvid u sistem koji radi.
Za Vaš tim gradimo sloj za orkestraciju više modela koji samo najteže zadatke šalje u Fable 5.2, uz shadow evaluaciju, praćenje troška po završenom zadatku, dozvole i revizijski trag. Pre migracije prilagođavamo pozive alata i pravila čuvanja podataka. Vredi da razgovaramo ako Vaš sistem koristi dugotrajne agente ili velike repozitorijume.