Ana içeriğe geç

Revolut, kendi barındırdığı açık ağırlıklı modellerle kodlama maliyetlerinde %90 düşüş bildiriyor

Behzat AIopen-weight-modelscoding-agentsinference-costself-hostingllm-evaluation
Bir veri merkezinde üst üste yığılmış hesaplama birimleri, kablolar ve durum ışıklarıyla bir sunucu rafının yakın çekimi.

Revolut, kendi barındırdığı açık ağırlıklı modellerin kodlama maliyetlerini %90 azalttığını bildiriyor. Çalışma, tescilli bir barındırılan API yerine açık ağırlıklı GLM modellerine dayanıyor; bu da kodlama agent'larının ekonomisini operatörün kontrol ettiği altyapıya taşıyor. Bu açıklama, yalnızca hangi modelin bir benchmark'ta en yüksek puanı aldığını değil, inference'ın nerede çalıştığını tartayan ekipler için somut bir veri noktası.

Bir veri merkezinde aydınlatılmış sunucu raflarının yakın çekimi, modern teknoloji altyapısını gösteriyor

Agent sistemleri için bu ayrım mimaridir. Bir kodlama agent'ı görev başına çok sayıda çağrı yapar; dolayısıyla token başına fiyatlandırma, yeniden denemeler, tool döngüleri ve doğrulama geçişleri boyunca katlanarak birikir. Kendi barındırma, bu profili sabit kapasite ve kullanıma doğru kaydırır ve başarısız veya tekrarlanan bir adımın maliyetini ölçülen harcama yerine yerel zamanlama meselesi haline getirir. Ödünleşim operasyona kayar: throughput planlaması, model güncellemeleri ve kendi barındırılan bir checkpoint'in hâlâ görev çubuğunu karşıladığını doğrulayan evaluation harness'i.

Bu açıklama, agentic kodlamaya yönelik Meituan'ın LongCat-2.5 açık sürümüyle aynı döneme denk geliyor. Aynı penceredeki iki sinyal aynı yönü işaret ediyor: açık ağırlıklar, genel sohbet ikameleri olarak değil, özellikle kodlama agent'ları için konumlandırılıyor. Sağlanan haber kapsamından net olmayan şeyler, %90 rakamının tam kapsamı, donanım ayak izi ve kalitenin önceki kuruluma karşı nasıl ölçüldüğüdür. Bu ayrıntılar, sonucun diğer mühendislik organizasyonlarına aktarılıp aktarılmayacağını belirler.

Stüdyonun görüşü: model yerleştirmeyi bir maliyet-mimari kararı olarak ele alın ve herhangi bir kendi barındırma hamlesini, regresyonları üretim agent'larına ulaşmadan yakalayabilecek bir evaluation paketiyle eşleştirin.

Konuşalım!