Ana içeriğe geç

Mistral, agentic kodlamaya yönelik trilyon parametreli Large 4'ün ağırlıklarını açıyor

Behzat AIopen-weight-modelsagentic-codingself-hostingdata-residencymistral
Bir veri merkezi koridorunda kabloları ve gösterge ışıklarıyla bir sunucu rafının yakın çekimi

Mistral, 1 trilyon parametreli bir model olan Mistral Large 4'ün ağırlıklarını ücretsiz indirilmek üzere yayımladı. Şirket, modeli agentic kodlama ve siber savunma için en iyi açık model olarak konumlandırıyor. Haberler, sürümü işletmeler için şirket içi dağıtım ve egemen kontrol etrafında çerçeveliyor; Mistral ise açık ağırlık yarışında Çinli açık ağırlıklı modelleri geride bıraktığını iddia ediyor.

Bir veri merkezindeki aydınlatılmış sunucu raflarının yakın çekimi, modern teknoloji altyapısını gösteriyor

Agent dağıtımları için önemli olan yalnızca ölçek değil, aynı zamanda haklar. İndirilebilen ve kendi kendine barındırılabilen sınır ölçeğinde bir model, yerleştirme hesabını değiştirir: inference, bir API'nin arkasında değil, müşterinin kendi çevresi içinde çalışabilir; bu da veri ikametgahı seçeneklerini, çıkış yollarını ve kurum dışına neyin çıktığının sınırını değiştirir. Düzenlemeye tabi verilere veya dahili araçlara dokunan agent sistemleri, genellikle model yeteneğinden çok modelin nerede yürütülebileceğiyle sınırlanır. Bu parametre sayısındaki açık ağırlıklı bir seçenek, yerel barındırma etrafında tasarlanabilecek dağıtımların kümesini genişletir.

Pratik sorular sürümle birlikte kesinleşmiyor. Haberler, ücretsiz indirmenin ötesinde lisans koşullarını, ağırlık formatını, niceleme desteğini, bağlam uzunluğunu veya bu büyüklükteki bir model için donanım ayak izini belirtmiyor. Agentic kodlama ve siber savunmadaki liderlik iddiaları satıcının konumlandırmasıdır, bağımsız olarak doğrulanmış sonuçlar değildir. Stüdyo, sürümü değerlendirilecek bir dağıtım seçenekleri değişikliği olarak ele alıyor: bu ölçekte bir modeli kendi kendine barındırmak ciddi bir inference altyapısı gerektirir ve maliyet ile latency profili, herhangi bir mimari karardan önce barındırılan alternatiflere karşı ölçülmelidir.

Konuşalım!