Stanford'da yeni bir biyoteknoloji girişimi, insan iş gücü yerine binlerce AI agent tarafından yönetiliyor. Bu düzenleme, hesap verebilirlik sorularını açık hale getiriyor: bir organizasyonun çalışan sayısı agent'lardan oluştuğunda, bir sonucun sahibinin kim olduğunu, çıktıların nasıl doğrulandığını ve işin nihai kabul edilmeden önce kimin onay verdiğini tanımlaması gerekir.
Aynı baskı, daha geniş agent ekosisteminde de görülüyor. Palo Alto Networks, saldırganların gerçek zamanlı saldırılar için üç ila beş ay içinde mythos sınıfı AI elde etmesini bekliyor. Aikido Security, GLM-5.3'ten 328 GB'a budanmış açık ağırlıklı bir güvenlik modeli olan Altar-1'i yayımladı. Sanofi, kurumsal uygulamalar arasında gezinmeyi azaltmak için AI agent'ları kullanıyor ve Financial Cents muhasebe işleri için agent'lar başlattı.
Agent sistemleri kuran ekipler için model tutarlı: yetenek, etrafındaki kontrollerden daha hızlı sevk ediliyor. Agent tarafından yönetilen organizasyonların açık doğrulama katmanlarına, denetim izlerine ve adlandırılmış onay yollarına ihtiyacı var; aksi takdirde yürütme hızı, üretilenin kontrol edilme yeteneğini geride bırakır. Haber kapsamından net olmayan şey, Stanford girişiminin agent çıktıları için sorumluluğu nasıl atadığı ve sonuçlar kabul edilmeden önce hangi doğrulama hattını kullandığıdır. Bunlar, agent öncelikli her organizasyonun yanıtlaması gereken sorulardır.