Ana içeriğe geç

Nokia, açık LLM'ler için eğitim gerektirmeyen bir kalibrasyon katmanı olan AnyJev'i açık kaynak olarak yayımladı

Behzat AIllm-calibrationopen-weight-modelsagent-infrastructuremodel-evaluationopen-source
Yolları, lehim bağlantılarını ve yüzey montajlı bileşenleri gösteren bir devre kartının makro fotoğrafı.

Nokia, herhangi bir açık LLM'i kalibre edilmiş bir karar modeline dönüştüren ve eğitim gerektirmeyen bir katman olarak tanımlanan AnyJev'i açık kaynak olarak yayımladı. Sürüm, ek eğitimden kaçınacak şekilde konumlandırılıyor; bu da onu, fine-tuning çalıştırmaları veya etiketli veri toplama gerektirmek yerine ağırlıklar sabitlendikten sonra bir modele uygulanabilen küçük post-hoc kalibrasyon yöntemleri kategorisine yerleştiriyor.

High-angle view of woven carbon fibre textile texture with shadows on a rough gray surface

Bu çerçeveleme agent mühendisliği açısından önemli. Bir agent model çıktısı üzerine eylemde bulunmak zorunda kaldığında, bir skor veya skor benzeri sinyalin bir eşik üzerinden bir karara eşlenmesi gerekir. Ham açık model çıktıları bu eşleme için nadiren kalibre edilmiştir; bu nedenle eşikler genellikle elle belirlenir, geçici doğrulama setlerinde ayarlanır veya ayrı bir sınıflandırıcıyla değiştirilir. Eğitimden kaçınan, doğrudan takılabilen bir kalibrasyon katmanı bu adımın maliyetini değiştiAbstract view of bridge cables stretching toward a bright blue sky with cloudse gelir.

Circuit board macro

Sürüm, tek bir satıcı yığını yerine açık ağırlıklı modeller için konumlandırılıyor; dolayısıyla tek bir API'ye veya sunum yoluna bağlı değil. Sağlanan kapsamdan netleşmeyen noktalar: hangi model ailelerinin ve görevlerin değerlendirildiği, dahili olarak hangi kalibrasyon yönteminin kullanıldığı, ne kadar latency ve bellek ek yükü getirdiği ve hangi lisans ile bakım modelinin geçerli olduğu. Bu ayrıntılar, AnyJev'in üretim agent pipeline'larında kullanılabilir olup olmadığını belirler.

Konuşalım!