Google araştırmacıları, kendi kendini geliştiren agent'ların test setlerini ezberlemesini engelleyen bir yöntem bildirdi. Çalışma, bir agent'ın kendi davranışını sabit bir değerlendirme setine karşı tekrar tekrar ayarladığı döngü olan yinelemeli kendi kendini geliştirme sırasındaki benchmark kontaminasyonunu ele alıyor.

Bu tür bir kontaminasyon, bildirilen yetenek kazanımlarının geçerliliğini zayıflatır. Bir agent, daha sonra puanlandığı örneklerin aynısına karşı optimize edildiğinde, ölçülen iyileşme genelleştirilebilir bir yetenekten ziyade eval setinin hatırlanmasını yansıtabilir. Bildirilen sonuç o zaman döngünün 
Agent sistemleri üreten ekipler için bu, eval-set hijyenini bir araştırma detayından birinci sınıf bir mühendislik meselesine dönüştürüyor. Pratik sonuçlar arasında değerlendirme verisini herhangi bir kendi kendini geliştirme sinyalinden ayrı tutmak, yinelemeler arasında eval setlerini döndürmek veya yeniden üretmek ve kontaminasyon kontrollerini sonradan yapılan bir denetim yerine sürüm kapısının bir parçası olarak ele almak yer alıyor. Sağlanan haber kapsamı hangi benchmark'ların kullanıldığını, deneylerin ölçeğini veya yöntemin dayandığı spesifik mekanizmayı belirtmiyor; bu detaylar mevcut materyalden net değil.
