Agent sistemleri geliştirmekten notlar
Değerlendirme koşum takımları, orkestrasyon desenleri, bellek tasarımı ve arkalarındaki başarısızlıklar — detaylar hâlâ tazeyken yazıya döküldü.
Agent'lar için Denetim İzleri Bir Dashboard Değil, Write-Ahead Log Problemidir
Agent hesap verebilirliği ancak her tool call, kimlik bilgisi kullanımı ve durum geçişi yürütülmeden önce kaydedildiğinde kanıtlanabilir; bu da logu bir çalışma zamanı bağımlılığı haline getirir.
Niyetsiz Kimlik: Ajanları Yetkilendirmek Onları Neden Sınırlamaz
Bir ajanın kimliğini doğrulamak ve token'ının kapsamını belirlemek, bir dizi araç çağrısı boyunca ne yaptığını sınırlamaz. Her yörünge için değerlendirilen niyet düzeyinde politika, kompozisyon boşluğunu kapatan kontroldür.
Kendi Sonraki Hamlesini Seçen Kötü Amaçlı Yazılım İmza Savunmasını Kırıyor
Sızma araçları bir sonraki eylemlerini seçmek için bir model paneli kullandığında, tespit artefaktlardan davranışa kaymalıdır — ve agent platformları sonuçları devralır.
Agent Güvenliği Bir Prompt Sorunu Değil, Yanal Hareket Sorunudur
Agent'lar kimlik bilgilerini elinde tutup araçları çağırdığında, güvenlik modelleri ayrıcalıklı bir iş yükününkiyle aynıdır. Onları da aynı tekniklerle değerlendirin.
Ajanlar Arası Manipülasyon Bir Protokol Sorunudur
Bir ajan, doğrulanmamış bir iddiayla başka bir ajanın planını değiştirebiliyorsa, kusur modelde değil protokoldedir. Köken etiketleri, bağımsız doğrulama ve yeniden iddia sınırları bunu kontrol altına alır.
Agent Kimlik Bilgileri Bir Prompt Sorunu Değil, Politika Sorunudur
Kapsamlandırılmamış yetkiyle verilen kimlik bilgileri, her prompt injection'ı ayrıcalık yükseltmesine dönüştürür. Talimat metnini değil, yetenek tahsisini tasarlayın.