Agent sistemleri geliştirmekten notlar
Değerlendirme koşum takımları, orkestrasyon desenleri, bellek tasarımı ve arkalarındaki başarısızlıklar — detaylar hâlâ tazeyken yazıya döküldü.
Denetçiyi Kim Denetler: Sorumluluk Çerçeveleri, Ajanların Bırakmadığı Bir Kağıt İzini Varsayar
Sorumluluk rejimleri, atfedilebilir bir karar kaydı varsayar. Mevcut ajan mimarileri, tek bir hesap verebilir adıma yeniden oluşturulamayan yörüngeler üretir.
OpenShell Belirtiyi Tedavi Ediyor: Agent Güvenliği Kill Switch Değil, Sözleşme Gerektiriyor
Runtime containment, kötü davranan bir agent'ı durdurabilir; ancak önceden beyan edilmiş bir izin verilen eylemler sözleşmesi olmadan bu, önleme değil hasar sınırlamadır.
Bir LLM Ajan Sürüsünü Ölçeklerken Aslında Ne Bozulur
Çok ajanlı sistemler, model yeteneğinden çok koordinasyon mekaniği nedeniyle başarısız olur. Paylaşılan duruma, devir protokollerine ve paralelliğin ödünleşimlerine bir bakış.
Ödeme Noktasında Tarayıcı Ajanları: Onay için Sözleşme Güncellemesi Değil, Bir Kayıt Defteri Gerekir
Ödeme noktasını tarayıcı ajanlarına açmak, onayı makine tarafından müzakere edilen bir sözleşmeye dönüştürür. Kalıcı bir onay kayıt defteri olmadan, ajanın neyi kabul ettiğini kaydeden hiçbir artefakt yoktur.
Ayrıştırmayı Enstrümante Etmek: Ajan Yörünge Maliyeti Neden Bir Planlayıcı Metriğidir
Çalıştırma maliyeti bir token toplamı olarak raporlanır, ancak baskın değişken planlayıcının görevi nasıl ayrıştırdığıdır. Plan-düğümü muhasebesi bütçelemeyi bir çizelgeleme girdisine dönüştürür.
İzolasyon Bir Sınırdır, Bütçe Değil: Agent Egress Neden Bir Maliyet Modeline İhtiyaç Duyar
Sandbox'lar bir agent'ın nerede çalıştığını kısıtlar, ne kadar uzağa eriştiğini değil. İzolasyonu, hedefleri ve payload hacmini ölçen çalıştırma başına bir egress bütçesiyle birlikte kullanın.
İzolasyon Bir Kontrol Yüzeyi Değildir: Nvidia'nın OpenShell'ini Tersinden Okumak
Sandbox'lar kaçışları durdurur; bir agent'ın ne yapmaya yetkili olduğunu tanımlamazlar. Agent güvenliği, runtime'ın üstünde bir yetki katmanına ihtiyaç duyar, daha hızlı bir kill switch'e değil.
Görevsiz Kimlik: Ajan Başına Kimlik Bilgileri Neden Hâlâ Fazla Yetki Veriyor
Görev kapsamlı kimlik bilgileri token ömrünü düzeltir, token kapsamını değil. Kapsam, planlayıcının işi nasıl ayrıştırdığına bağlıdır ve bu da ayrıştırmayı bir güvenlik kontrolü haline getirir.
Araç Yüzeyleri Bir Sarmalayıcı Sorunu Değil, Bir Arayüz Tasarımı Sorunudur
Agent araç yanlış kullanımı genellikle arayüzde başlar: JSON ile sarmalanmış insan API'leri kısmi başarısızlığı gizler ve terminal hata semantiğinden yoksundur. Makineye bakan yüzeyler tasarlamak bunu düzeltir.