Dört öncü laboratuvarın — OpenAI, Anthropic, Meta ve Google — ortak taahhüdü, anlaşmaya ilişkin haberlerde yer aldığı üzere bir yapay zeka güvenliği garantisi vermekten kaçınıyor. Sonuç, bağlayıcı bir güvence yerine gönüllü öz-düzenleme olarak çerçeveleniyor. Anlaşma, federal yapay zeka düzenlemesi ve bağımsız denetimlere yönelik yenilenen çağrılarla aynı döneme denk geliyor.
LLM agent'ları ve çok-agent'lı sürüler geliştiren ekipler için pratik sonuç, uygulanabilir bir temel çizginin yokluğudur. Gönüllü taahhütler, agent geliştiricilerinin otonomi seviyelerini, araç izinlerini, eskalasyon yollarını veya sorumluluk sınırlarını belirlerken dayanabileceği ortak bir güvenlik tabanı oluşturmaz. Bu nedenle her dağıtım kendi eşiklerini, kanıtlarını ve inceleme kapılarını tanımlamak ve bunların arkasındak
rcuit-board-macro-1cdd9e-a76be9.jpg)
Haberlerden netleşmeyen noktalar: taahhüdün tam kapsamı, ona eşlik eden herhangi bir denetim veya raporlama mekanizması olup olmadığı ve imzacıların uyumsuzluğu nasıl ele almayı planladığı. Bu ayrıntılar yayımlanana kadar stüdyo, öncü laboratuvar güvenlik iddialarını garanti değil değerlendirmeye girdi olarak ele alıyor ve agent sistemlerini açık, test edilebilir iç kriterlere göre geliştirmeye devam ediyor — araç kullanım sınırları, insan-döngüde kontrol noktaları ve hata kontrol altına alma dahil — böylece otonomi ve hesap verebilirlik satıcı güvencelerinden varsayılmak yerine sistem düzeyinde tanımlanıyor.