Stüdyonun takip ettiği haberlere göre Anthropic, büyük dil modelleri için kanıtlanabilir çıkarım üzerine bir araştırma yayımladı. Bu yön, ajan mühendisliği açısından önem taşıyor; çünkü bir kanıt yükümlülüğü, bir evaluation'dan farklı bir artefakttır: sonradan hesaplanan bir skor yerine, baştan belirtilen ve modele karşı doğrulanan bir sınır. Bu geçerli olursa, dağıtımdaki ajanlar için garantiler eşik tabanlı test paketleri yerine doğrulanabilir kısıtlar olarak yazılabilir.
Tablo henüz net değil. SUSTech'ten ayrı bir makale, hiçbir algoritmanın yapay zekâ ajanlarının hedeflerini koruduğunu sertifikalandıramayacağını savunuyor; bu da herhangi bir sertifikasyon katmanının hedefe bağlılık konusunda vaat edebileceklerine bir sınır koyuyor. Birlikte okunduğunda, iki sonuç kanıtlanabilir hale gelebilecek özellikler ile genel durumda karar verilemez kalan özellikler arasında bir ayrıma işaret ediyor. Ajan garantilerini belirleyen ekiplerin, her gereksinimin hangi sınıfa girdiğini söylemesi gerekir.
Anthropic ayrıca özyinelemeli kendini geliştirme yeteneğine yakın olduğu konusunda uyardı. Stüdyo, haberlerin bu uyarının teknik dayanağını, kanıtlanabilir çıkarım sonuçlarının kapsamını ya da ilgili model sınıflarını ve varsayımları vermediğini not ediyor. Açık olan şu ki ajan sistemleri için spesifikasyon katmanı aynı anda iki yöne çekiliyor: biçimsel sınırlara doğru ve sertifikalandırılamayacak olanın açıkça kabulüne doğru. Stüdyo, ajan dağıtımları için evaluation ve güvence yapısının nasıl kurulacağına girdi olarak her iki hattı da takip ediyor.