Agent sistemleri geliştirmekten notlar
Değerlendirme koşum takımları, orkestrasyon desenleri, bellek tasarımı ve arkalarındaki başarısızlıklar — detaylar hâlâ tazeyken yazıya döküldü.
Eylemden Önce Doğrulama: Otonom Ajanlar için Sıralama Kontrolleri
Yürütme doğrulaması ancak plan ile yan etki arasında, asenkron bir denetim akışı değil de tool call'ın senkron bir bağımlılığı olarak konumlandığında karşılığını verir.
Agent Kimlik Yönetişimi Agent Framework'ünde Değil, Dizinde Olmalı
Framework'ler içinde tanımlanan agent izinleri erişim incelemeleri tarafından görülmez, kullanımdan kaldırıldıktan sonra da varlığını sürdürür ve dağınık hale gelir. Dizin-yerel kimlik, yaşam döngüsünü düzeltir.
Çalışma Zamanı Yönetişimi Politika Belgeleri Değil, Uygulama Noktaları Gerektirir
Agent davranışını sonradan kaydeden yönetişim onu kısıtlamaz. İşe yarayan katman, bir tool call'u yürütülmeden önce engelleyen veya yeniden şekillendiren bir dizi senkron uygulama noktasıdır.
Agent'lar için Dağıtım Öncesi Doğrulama Bir Hata Enjeksiyonu Problemidir
Temiz bir trace yalnızca agent'ın çalıştırdığınız vakaları ele aldığını kanıtlar. Hazır olmak, production'ın üreteceği hataları enjekte etmek ve kurtarma yolunu izlemek demektir.
Bir Devlet Portalına Erişen Agent, Bir Yönlendirme Hatasıdır
Yetkisiz erişim, prompt'ta değil çıkış darboğazında çözülür. Her agent filosunun, reddetmeleri birinci sınıf olay olan tek bir denetlenebilir ağ sınırına ihtiyacı vardır.
Sızdırılan Çıktı Bir Provenance Hatasıdır, Model Hizalama Hatası Değil
Bir agent, hiç ihraç etmemesi gereken kullanıcı artefaktlarını yayımladığında, kusur üretilen çıktıya akan verilerde eksik olan provenance ve taint takibidir.
Agent Sandbox, Konteyner Sorusundan Önce Bir Yetenek Sorusudur
İzolasyon, izolasyon teknolojisinden çok bir agent'ın bir çalıştırmanın her adımında elinde tuttuğu yetenekleri numaralandırmak, sınırlamak ve iptal etmekle ilgilidir.
Runtime Niyet Denetimi, Agent Çıkışı için Statik İzin Listelerini Geçer
Statik izin listeleri, çalışma zamanında birleştirilen agent tool call'larına yetişemez. Runtime niyet denetimi, hedef filtrelemenin kaçırdıklarını yakalar — yeter ki kontrol hot path için yeterince ucuz kalsın.
Sandbox Kaçışı Bir Yetenek Bütçesi Problemidir
Agent sistemlerindeki containment hataları, eksik jailbreak'ler değil, yanlış fiyatlandırılmış yetenek tahsisleridir. Kontrol yüzeyi, erişilebilir sistemler üzerinde çalıştırma başına bir bütçedir.