Meta je objavila Muse Spark Open, ali je samostalno hostovanje i dalje infrastrukturna odluka
Meta je otvorila težine za veliki multimodalni agentski model, ali 700 GB GPU memorije, operativni rad i posebni uslovi licence odlučuju da li se prelazak zaista isplati.
Šta je objavljeno
Meta je 15. oktobra objavila Muse Spark Open, multimodalni model sa otvorenim težinama namenjen programiranju i agentskim zadacima. Ima ukupno 816 milijardi parametara, aktivira 42 milijarde po tokenu, podržava kontekst od milion tokena i prima tekst, slike, zvuk i video.
Otvorenost ima cenu
Otvorene težine ne uklanjaju trošak serviranja. Meta navodi najmanje 700 GB GPU memorije za NVFP4 izdanje i 2 TB za BF16, dok je lokalno MLX pokretanje optimizovano za dva M5 Ultra Mac Studio računara. Licenca dozvoljava komercijalnu upotrebu, ali zahteva navođenje porekla i poseban ugovor za određene veće pružaoce modela kao usluge.
Prvi nezavisni rezultat je obećavajući, ali nije dovoljan za odluku o migraciji. Muse Spark Open je u Plotly testu analitike rešio 38 od 43 zadatka, odnosno 88 odsto; pokretanje preko OpenRoutera koštalo je 5,16 dolara, uz medijanu od 48 sekundi po pitanju.
Naša produkciona odluka
Virtual Arc bi najpre testirao hostovanu verziju na stvarnim tokovima rada, sa istim alatima, keširanjem, ograničenjima i pravilima za ponavljanje koja koristimo u produkciji. Pratili bismo cenu po uspešno završenom zadatku, a ne cenu tokena ili jedan zbirni benchmark.
Samostalno hostovanje ima smisla tek kada privatnost podataka, konstantno veliko opterećenje ili duboko prilagođavanje pokriju trošak infrastrukture i dežurnog tima. Do tada bismo Muse Spark Open koristili kao rezervnu rutu i sredstvo za smanjenje zavisnosti od jednog API dobavljača, ne kao razlog za hitnu migraciju.
Objavljivanje Muse Spark Open modela je važno jer timovima daje multimodalni agentski model sa otvorenim težinama, kontekstom od milion tokena i dovoljno ozbiljnim mogućnostima da zasluži pravo poređenje na sopstvenim zadacima. To ipak ne znači da je inferencija odjednom jeftina: NVFP4 izdanje traži najmanje 700 GB GPU memorije, dok licenca zahteva isticanje porekla i poseban ugovor sa Metom za veće kompanije koje model nude kao uslugu. Virtual Arc ne bi selio produkcioni agentski sistem samo zato što su težine dostupne. Prvo bismo model pustili preko hostovanog provajdera kroz testove koji mere cenu po završenom zadatku, neuspele pozive alata, ponavljanja, latenciju i ponašanje keša, a zatim izračunali kolika iskorišćenost infrastrukture je potrebna da samostalno hostovanje pobedi API. Sopstvenu infrastrukturu bismo uzeli samo kada kontrola podataka, stabilan veliki obim ili prilagođavanje modela opravdavaju i hardver i tim koji će ga održavati; u suprotnom, ovo izdanje je pre svega bolja pregovaračka pozicija prema zatvorenim dobavljačima.