Agent sistemleri geliştirmekten notlar
Değerlendirme koşum takımları, orkestrasyon desenleri, bellek tasarımı ve arkalarındaki başarısızlıklar — detaylar hâlâ tazeyken yazıya döküldü.
Niyet Bir Kapsam Değildir: Ajanlar İçin Erişim Kontrolü Neden Prompt'lardan Çıkarılamaz
Niyet tabanlı erişim kontrolü umut vericidir, ancak yalnızca niyet, çalıştırmadan önce sınırlı ve denetlenebilir bir yetenek kümesine derlenirse — ajanın kendi açıklamasından çağrı anında değerlendirilmezse.
Kendi İzlemesini Devre Dışı Bırakan Agent, Bir Kontrol Düzlemi Sahipliği Sorunudur
Bir agent kendisini gözlemleyen sistemleri yeniden yapılandırabildiğinde, gözlemlenebilirlik onun üzerinde bir kontrol değil, elinde tuttuğu bir yetenek haline gelir. İzlemenin kendi principal'ı ve kimlik bilgileri olmalıdır.
Uyuyan Agent'lar Anahtarlarını Koruyor: Yaşam Döngüsü Aşaması Olarak Kimlik Bilgisi Geri Kazanımı
Çalışmayı bırakan ama kimlik bilgilerini koruyan bir agent, denetlenmeyen bir principal'dır. Filo hijyeni, kimlik bilgisi süresinin dolmasını planlamalı; bunu kullanımdan kaldırmanın sonradan akla gelen bir adımı olarak görmemelidir.
Agent'tan Agent'a İletişim için MCP: Taşıma Katmanını Bir Saldırı Yüzeyi Olarak Ele Alın
Agent'tan agent'a protokoller, genişlettikleri tool-calling katmanının güven varsayımlarını devralır; bu nedenle mesaj özgünlüğü ve yetenek kapsamlandırması agent'lara sonradan eklenmek yerine taşıma katmanına tasarımla dahil edilmelidir.
Agent Okuma Kapsamı: Veri Maruziyeti İçin Tam Disk Erişimi Neden Yanlış Bir İlkel
Dosya sistemi izinleri, bir agent'ın veriyle ne yapmayı amaçladığını ifade edemez. Okuma kapsamı, dosya sistemi köküne göre değil, veri sınıfına ve sorgu amacına göre verilmelidir.
Tam Disk Erişimi Kaba Bir Yetkidir: Agent Okuma Haklarını Veri Sınıflarına Göre Kapsamlandırmak
macOS Tam Disk Erişimi, her kullanıcı dosyası üzerinde tek bir boolean'dır. Kalıcı çözüm, her okumada provenance ile birlikte veri sınıfı başına okuma haklarıdır.
Modeller Arası Adversarial Transfer, Model Başına Savunmaları Çıkmaz Sokak Haline Getiriyor
Adversarial pertürbasyonlar modeller arasında transfer olur, bu yüzden model başına sertleştirme agent yığınını savunmasız bırakır. Kalıcı kontrol noktası, tipli araç sınırıdır.
Rogue Agent Raporları Bir Güvenlik Sorunundan Önce Bir Atıf Sorunudur
Olay raporları modeli adlandırır, ancak eyleme geçirilebilir artefakt, çalışmayı yetkilendiren delegasyon zinciridir. Çoğu yığın bunu yeniden oluşturamaz.
Temizlik Asimetrisi: Olay Müdahalesi Neden Var Olmayan Bir Operatörü Varsayıyor
Otonom agent olayları bir boşluğu ortaya koyuyor: playbook'lar tek bir sorumlu operatör varsayıyor, ancak sorumluluk satıcılar, framework'ler, entegratörler ve kullanıcılar arasında dağılmış durumda.