Agent sistemleri geliştirmekten notlar
Değerlendirme koşum takımları, orkestrasyon desenleri, bellek tasarımı ve arkalarındaki başarısızlıklar — detaylar hâlâ tazeyken yazıya döküldü.
Runtime Yönetişimi Prompt Yönetişimini Yener: Nvidia Sentry ve Kill-Switch Tartışmasını Okumak
Prompt düzeyindeki kontroller tavsiye niteliğindedir çünkü olasılıksal bir sistemin içinde yaşarlar. Runtime müdahalesi, eylemlerin somutlaştığı yerde durur ve otorite oraya aittir.
Politika Güdümlü Sınırlama: Bir İşletim Sistemi Zorlayıcısının Karar Verip Veremeyecekleri
Ana makine düzeyinde sınırlama, kaynak ve dosya sistemi sınırlarını uygular ancak bir agent eyleminin yetkilendirilip yetkilendirilmediğini yargılayamaz. Zorlama ve yetkilendirme katmanlarını ayırın.
Karar Modelleri Politika Motorları Değildir: 2B Bir Router Neyi Uygulayabilir ve Neyi Uygulayamaz
Strands Decider ve Clef gibi ucuz karar modelleri yönlendirme ilkelleridir, kontrol yüzeyleri değil. Hızlı bir sınıflandırıcıyı bir uygulama noktası olarak ele almak, başarısızlık modunu ortadan kaldırmak yerine taşır.
Niyet, Agent Güvenlik Telemetrisinde Eksik Sinyaldir
Güvenlik yığınları agent'ların ne yaptığını kaydeder, ne niyet ettiğini değil. Beyan edilen niyeti imzalı, sorgulanabilir bir artefakt haline getirmek bu boşluğu kapatır.
Agent Sandbox, Konteyner Sorusundan Önce Bir Yetenek Sorusudur
İzolasyon, izolasyon teknolojisinden çok bir agent'ın bir çalıştırmanın her adımında elinde tuttuğu yetenekleri numaralandırmak, sınırlamak ve iptal etmekle ilgilidir.
Niyet Kayıtları: Bir Politika ile Ajan Çalıştırması Arasındaki Eksik Artefakt
İzin listeleri bir ajanın ne yapabileceğini gösterir, ancak bir adımın gerekli olup olmadığını göstermez. Niyet kayıtları, çalışma zamanında adım başına karar bağlamını yakalar.
Sandbox Kaçışı Bir Yetenek Bütçesi Problemidir
Agent sistemlerindeki containment hataları, eksik jailbreak'ler değil, yanlış fiyatlandırılmış yetenek tahsisleridir. Kontrol yüzeyi, erişilebilir sistemler üzerinde çalıştırma başına bir bütçedir.
Niyetsiz Kimlik: Ajanları Yetkilendirmek Onları Neden Sınırlamaz
Bir ajanın kimliğini doğrulamak ve token'ının kapsamını belirlemek, bir dizi araç çağrısı boyunca ne yaptığını sınırlamaz. Her yörünge için değerlendirilen niyet düzeyinde politika, kompozisyon boşluğunu kapatan kontroldür.
Kanıtlanabilir Kontrol: Yönetişimi Panolardan Zorunlu Değişmez Kurallara Taşımak
Gözlemlenebilirlik, bir agent'ın ne yaptığını kaydeder. Yönetişim ise, model ne karar verirse versin belirli eylemleri imkânsız kılan kısıtlar gerektirir.