Agent sistemleri geliştirmekten notlar
Değerlendirme koşum takımları, orkestrasyon desenleri, bellek tasarımı ve arkalarındaki başarısızlıklar — detaylar hâlâ tazeyken yazıya döküldü.
İzolasyon Bir Sınırdır, Bütçe Değil: Agent Egress Neden Bir Maliyet Modeline İhtiyaç Duyar
Sandbox'lar bir agent'ın nerede çalıştığını kısıtlar, ne kadar uzağa eriştiğini değil. İzolasyonu, hedefleri ve payload hacmini ölçen çalıştırma başına bir egress bütçesiyle birlikte kullanın.
İzolasyon Bir Kontrol Yüzeyi Değildir: Nvidia'nın OpenShell'ini Tersinden Okumak
Sandbox'lar kaçışları durdurur; bir agent'ın ne yapmaya yetkili olduğunu tanımlamazlar. Agent güvenliği, runtime'ın üstünde bir yetki katmanına ihtiyaç duyar, daha hızlı bir kill switch'e değil.
Sandbox Kaçışı Bir Yetenek Bütçesi Problemidir
Agent sistemlerindeki containment hataları, eksik jailbreak'ler değil, yanlış fiyatlandırılmış yetenek tahsisleridir. Kontrol yüzeyi, erişilebilir sistemler üzerinde çalıştırma başına bir bütçedir.
Sandbox Sözleşmeleri: Bir Agent Üretim Uç Noktasına Dokunmadan Önce Neyi Kanıtlamalı
Agent containment bir izin ve doğrulama sözleşmesidir, bir guardrail prompt'u değil. Her tool sınırının, agent'ın çalışma zamanında pazarlık edemeyeceği bir ön koşula ihtiyacı vardır.