Agent sistemleri geliştirmekten notlar
Değerlendirme koşum takımları, orkestrasyon desenleri, bellek tasarımı ve arkalarındaki başarısızlıklar — detaylar hâlâ tazeyken yazıya döküldü.
Mutabakat ve Yetkilendirme: Ajan Tabanlı Ticaret Eylem Sınırları Hakkında Ne Ortaya Koyuyor
Ticaret yapması için nakit verilen ajanlar sıklıkla tekrar tekrar alıp satar: başarısızlık stratejide değil, niyet ile kayıtlı pozisyon arasında bir mutabakat sınırının olmamasındadır.
Araç Yüzeyleri Bir Şema Problemidir: Akıllı Promptlardan Önce Tipli Argümanlar
Ajan araç kullanımı hatalarının çoğu zayıf akıl yürütmeden değil, eksik tanımlanmış şemalardan kaynaklanır. Araç arayüzünü birincil güvenilirlik kaldıracı olarak ele alın.
Egress Defterleri: Bir Ajanın Ne Gönderdiğini Değil, Nereye Gittiğini Kaydetmek
İçerik denetimi yükleri görür, hedefleri değil. Bir egress defteri, bir ajanın nereye gittiğini, hangi sırayla gittiğini ve her sıçramanın ne kadar yeni olduğunu kaydeder.
Agent Olayları, Politika Sorunu Olmadan Önce Bir Telemetri Sorunudur
Başıboş agent raporları, ancak olaydan sonra görünür hale gelen kontrol arızalarını tanımlıyor. İlk düzeltme; niyet, egress ve kararın kalıcı bir kaydıdır.
OpenShell Belirtiyi Tedavi Ediyor: Agent Güvenliği Kill Switch Değil, Sözleşme Gerektiriyor
Runtime containment, kötü davranan bir agent'ı durdurabilir; ancak önceden beyan edilmiş bir izin verilen eylemler sözleşmesi olmadan bu, önleme değil hasar sınırlamadır.
İzolasyon Bir Kontrol Yüzeyi Değildir: Nvidia'nın OpenShell'ini Tersinden Okumak
Sandbox'lar kaçışları durdurur; bir agent'ın ne yapmaya yetkili olduğunu tanımlamazlar. Agent güvenliği, runtime'ın üstünde bir yetki katmanına ihtiyaç duyar, daha hızlı bir kill switch'e değil.
Agent'lar Daha Fazla Özerkliğe Değil, Daha Dar Araç Yüzeylerine İhtiyaç Duyar
Agent'ların haddini aşması çoğunlukla modelden değil, araç arayüzünden başlar. Bir agent'ın çağırdığı yüzeyi daraltmak, onu guardrail'lere sarmaktan çok daha yüksek kaldıraçlı bir düzeltmedir.
Agent Egress Bütçeleri: Hız, Erişimle Aynı Şey Değildir
Hız limitleri bir agent'ın ne kadar hızlı hareket ettiğini sınırlar, nereye gittiğini değil. Egress kontrolü, proxy'de uygulanan ve her çalıştırmadan sonra uzlaştırılan bir hedef-ve-yetenek bütçesi olmalıdır.
Agent Risk Skorlaması Bir Çalışma Zamanı Sinyalidir, Tedarikçi Değerlendirmesi Değil
Statik agent skor kartları, bir araç çağrıldığı anda geçersiz hale gelir. İşe yarayan artefakt, çalışmanın kendisinden türetilen bir risk sinyalidir.