Ana içeriğe geç

Google araştırmacıları kendi kendini geliştiren agent'larda benchmark ezberlemeyi hedefliyor

Behzat AIagent-evaluationbenchmark-contaminationself-improvementllm-agentseval-hygiene
Loş bir veri merkezinde sıra sıra gösterge ışıkları ve ağ kablolarıyla dolu bir sunucu rafının yakın çekimi.

Google araştırmacıları, kendi kendini geliştiren agent'ların test setlerini ezberlemesini engelleyen bir yöntem bildirdi. Çalışma, bir agent'ın kendi davranışını sabit bir değerlendirme setine karşı tekrar tekrar ayarladığı döngü olan yinelemeli kendi kendini geliştirme sırasındaki benchmark kontaminasyonunu ele alıyor.

Vintage industrial control panel with analog gauges and dials

Bu tür bir kontaminasyon, bildirilen yetenek kazanımlarının geçerliliğini zayıflatır. Bir agent, daha sonra puanlandığı örneklerin aynısına karşı optimize edildiğinde, ölçülen iyileşme genelleştirilebilir bir yetenekten ziyade eval setinin hatırlanmasını yansıtabilir. Bildirilen sonuç o zaman döngünün ![Macro sMacro photo of porous volcanic rock surface showing textures and patterns

Agent sistemleri üreten ekipler için bu, eval-set hijyenini bir araştırma detayından birinci sınıf bir mühendislik meselesine dönüştürüyor. Pratik sonuçlar arasında değerlendirme verisini herhangi bir kendi kendini geliştirme sinyalinden ayrı tutmak, yinelemeler arasında eval setlerini döndürmek veya yeniden üretmek ve kontaminasyon kontrollerini sonradan yapılan bir denetim yerine sürüm kapısının bir parçası olarak ele almak yer alıyor. Sağlanan haber kapsamı hangi benchmark'ların kullanıldığını, deneylerin ölçeğini veya yöntemin dayandığı spesifik mekanizmayı belirtmiyor; bu detaylar mevcut materyalden net değil.

Konuşalım!