OpenAI modeli stižu na Google Cloud: još nije vreme za migraciju
Ponuda menja nabavku i upravljanje modelima, ali je pristup za sada ograničen na privatnu probnu fazu i interno testiranje.
Šta je objavljeno
OpenAI i Google Cloud su 21. oktobra najavili da GPT-6 Astra, GPT-6.1 Sol, GPT-6 Luna i Codex radni tokovi dolaze u Google Cloud Model Garden. Kupovina će ići preko Google Cloud Marketplace-a, a postojeće GCP ugovorne obaveze moći će da se koriste za ovu potrošnju.
Za sada je reč o privatnom pristupu za odabrane poslovne korisnike. OpenAI izričito navodi da je probna faza namenjena odobrenom razvoju i internom testiranju, dok se opšta dostupnost očekuje tokom narednih nedelja.
Zašto je važno
Timovi koji već drže aplikacije i podatke na Google Cloud-u moći će da testiraju OpenAI modele bez uvođenja potpuno odvojenog procesa nabavke, identiteta, obračuna i revizije. Google Cloud sada može da ponudi Gemini, Claude i OpenAI modele kroz jednu platformu.
To smanjuje trenje pri promeni modela, ali ne garantuje portabilnost sistema. Ako se rutiranje, alati i evaluacije vežu za Google-ov upravljački sloj, zavisnost od pojedinačnog modela može biti zamenjena zavisnošću od jedne cloud platforme.
Šta bismo uradili
Virtual Arc bi počeo probnim rutiranjem iza sopstvenog interfejsa, bez izmene poslovne logike i bez prebacivanja produkcije. Isti stvarni zadaci prošli bi kroz postojeći model i OpenAI modele na GCP-u, uz poređenje troška po završenom zadatku, kašnjenja, neuspeha alata i pouzdanosti rezultata.
Migracija ima smisla tek kada opšta dostupnost, ugovorni uslovi i najavljene kontrole podataka postanu konkretni. Do tada vredi testirati, ali ne i projektovati arhitekturu kao da su sva obećanja već produkciona funkcionalnost.
Dolazak OpenAI modela na Google Cloud važniji je za produkcione timove od još jednog pomeranja na tabeli benčmarka, jer menja način nabavke, upravljanja pristupom i raspodele AI poslova. Ipak, Virtual Arc još ne bi selio produkciju: pristup je trenutno zatvorena probna faza namenjena odobrenom razvoju i internom testiranju, dok su opšta dostupnost, Zero Data Retention i Confidential Compute najavljeni za kasnije. Za timove koji već koriste GCP, postojeći ugovori, objedinjeni račun, identiteti i revizijski zapisi mogu ukloniti ozbiljno operativno trenje, ali to nije isto što i uklanjanje zavisnosti od dobavljača. Zavisnost se može samo premestiti sa modela na Google-ov upravljački sloj. Mi bismo sada napravili portabilan sloj za rutiranje, pustili reprezentativne zadatke kroz evaluacije i saobraćaj u senci, pa merili trošak po uspešno završenom zadatku, kašnjenje i greške. Tek nakon objave konačnih uslova i potvrde ponašanja na sopstvenim radnim tokovima odlučili bismo da li bilo koji produkcioni saobraćaj treba preusmeriti.
Pretvorite uvid u sistem koji radi.
Gradimo sloj za nezavisno rutiranje, evaluaciju i testiranje u senci između Google Cloud-a, OpenAI-ja i Vašeg postojećeg sistema pre preusmeravanja produkcionog saobraćaja. Dodajemo dozvole, kontrolu obračuna i revizijski trag kako bi promena ostala merljiva i povratna. Javite nam se ako Vaš tim razmatra objedinjavanje AI opterećenja na Google Cloud-u.