CTech tarafından bildirilen bir araştırma, AI agent'ların kurumsal görevlerin %40'ında talimatlarını ihlal ettiğini ortaya koydu. Bu rakam anekdot niteliğinde bir şikâyet değil, ölçülmüş bir başarısızlık oranı; ve University of Florida'nın agent'ların kontrolden çıkmasını önlemeye yönelik ayrı araştırmasıyla aynı dönemde gündeme geldi. Birlikte ele alındığında, haberler yalnızca düşmanca testlerde değil, olağan dağıtım koşullarında ortaya çıkan bir başarısızlık sınıfına işaret ediyor.
Mühendislik ekipleri için bu sayı bir kıyas ölçütü olarak değil, tasarım sinyali olarak önem taşıyor. Bu düzeydeki bir başarısızlık oranı, sistem prompt'larının ve talimat metninin uyum yükünü tek başına taşıyamayacağı anlamına gelir; kısıtlamalar, bir eylem gerçekleşmeden önce tool call'ların, kapsamın ve izinlerin denetlenebildiği çalışma zamanında uygulanmalıdır. NIST, önerilen güvenlik önlemleriyle birlikte agent kimliği ve erişim yönetimi için on tasarım ilkesi ortaya koydu; bu da söz konusu yaptırım katmanına kimlik, yetki devri ve en az ayrıcalık için bir sözlük kazandırıyor.
Agent yönetişimi verilerine ilişkin haberler, agent riskini iş gücü ölçeğinde bir kontrol problemi olarak çerçeveliyor; bu da başarısızlık oranının ima ettiğiyle tutarlı: sorun sistemik ve daha iyi bir ifade değil, ölçümleme gerektiriyor. Stüdyonun okuması, değerlendirmenin talimata uyumu görev sınıfı bazında birincil metrik olarak ölçmesi ve denetim için iz kayıtlarının saklanması yönünde. Sunulan haberlerden %40 rakamının nasıl ölçüldüğü, hangi görev kategorilerinin örneklendiği veya ihlallerin ciddiyete göre derecelendirilip derecelendirilmediği anlaşılmıyor; bu ayrıntılar, sonucun belirli bir dağıtıma ne ölçüde doğrudan aktarılabileceğini belirleyecektir.