Microsoft, frontier modellerine güvenilemeyeceğini açıkladı ve otonom agent'ları dış çağrıcılar yerine iç tehditler olarak konumlandırıyor. Şirket, başıboş agent'ları izlemek ve kontrol altına almak için araçların yanı sıra zamanlanmış agent'lar ve daha akıllı tool kullanımı ekleyen Microsoft Foundry güncellemelerini duyurdu. Açıklanan görüş, güvenliğin agent hızında ilerlemesi gerektiği yönünde. Haberler: birinci haber, ikinci haber, üçüncü haber, dördüncü haber.
Bu konumlandırma, agent sistemlerinin nasıl tasarlandığı açısından önem taşıyor. Devredilmiş bir agent, güven sınırının içinde bir principal olarak ele alındığında, çevre kontrolleri birincil savunma olmaktan çıkıyor. Bunların yerini davranışsal izleme, kapsamı belirlenmiş kimlik bilgileri ve her agent için en az yetkili tool erişimi alıyor; zamanlanmış çalıştırmalar ve tool çağrıları da opak model çıktısı yerine denetlenebilir eylemler olarak değerlendiriliyor.
Çoklu agent sistemleri üreten ekipler için bu, üretimde hâlihazırda benimsenen uygulamalarla örtüşüyor: açık yetenek sınırları, agent başına kimlik, kayıt altına alınan tool çağrıları ve agent davranışında anomali tespiti. Güvenliğin agent hızında ilerlemesi gerektiği yönündeki tedarikçi görüşü, kontrollerin yalnızca dağıtımda değil çalışma zamanında da eylemleri değerlendirmesi anlamına geliyor.
Haberlerden netleşmeyen noktalar, izleme araçlarının kapsamı, üçüncü taraf modellere uygulanıp uygulanmadığı ve başıboş agent tespitinin nasıl değerlendirildiği. Behzat AI bunları kesinleşmiş garantiler değil, test edilmesi gereken açık sorular olarak ele alıyor.