Agent sistemleri geliştirmekten notlar
Değerlendirme koşum takımları, orkestrasyon desenleri, bellek tasarımı ve arkalarındaki başarısızlıklar — detaylar hâlâ tazeyken yazıya döküldü.
Agent'lar Daha Fazla Özerkliğe Değil, Daha Dar Araç Yüzeylerine İhtiyaç Duyar
Agent'ların haddini aşması çoğunlukla modelden değil, araç arayüzünden başlar. Bir agent'ın çağırdığı yüzeyi daraltmak, onu guardrail'lere sarmaktan çok daha yüksek kaldıraçlı bir düzeltmedir.
Agent Egress Bütçeleri: Hız, Erişimle Aynı Şey Değildir
Hız limitleri bir agent'ın ne kadar hızlı hareket ettiğini sınırlar, nereye gittiğini değil. Egress kontrolü, proxy'de uygulanan ve her çalıştırmadan sonra uzlaştırılan bir hedef-ve-yetenek bütçesi olmalıdır.
Agent Risk Skorlaması Bir Çalışma Zamanı Sinyalidir, Tedarikçi Değerlendirmesi Değil
Statik agent skor kartları, bir araç çağrıldığı anda geçersiz hale gelir. İşe yarayan artefakt, çalışmanın kendisinden türetilen bir risk sinyalidir.
Model Yönlendirme, Bir Optimizasyon Problemi Olmadan Önce Bir Değerlendirme Problemidir
Modeller arasında yönlendirme ancak yönlendirici, yalnızca token başına maliyetle değil, sabit bir değerlendirme seti altında görev düzeyindeki sonuçlara göre yargılandığında karşılığını verir.
Legacy Sistemler Bir Hedef Sorunu Değil, Agent Yetenek Sorunudur
Agent'lar legacy sistemleri yeni baştan savunmasız hale getirmez; sistemin örtük güven varsayımlarını makine hızında çalıştırılabilir kılar. Çözüm, sınırda yetenek kapsamlandırmadır.
Legacy Sistemler Bir Agent Amplifikasyon Problemidir
Agent'lar legacy sistemlerde yeni güvenlik açıkları icat etmez; sömürünün verimini artırır. Çözüm, agent sınırında hız ve kapsam limitleridir, yeniden yazım değil.
Modeli Sorgulamak Bir İnceleme Yöntemidir, Bir Kişilik Özelliği Değil
Agent çıktısını kabul edilecek bir sonuç değil, sorgulanacak bir iddia olarak ele almak, ekiplerin kurumsallaştırabileceği tekrarlanabilir bir değerlendirme pratiğidir.
Niyet, Agent Güvenlik Telemetrisinde Eksik Sinyaldir
Güvenlik yığınları agent'ların ne yaptığını kaydeder, ne niyet ettiğini değil. Beyan edilen niyeti imzalı, sorgulanabilir bir artefakt haline getirmek bu boşluğu kapatır.
Ret, Bir Model Özelliği Değil, Bir Yönlendirme Kararıdır
Agent'ın yetkisini aşması genellikle modelin yukarısında eksik bir yetkilendirme kararıdır. Güvenlik yalnızca alignment eğitiminde değil, istek yolunda yer alır.