Agent sistemleri geliştirmekten notlar
Değerlendirme koşum takımları, orkestrasyon desenleri, bellek tasarımı ve arkalarındaki başarısızlıklar — detaylar hâlâ tazeyken yazıya döküldü.
Sandbox Sözleşmeleri: Bir Agent Üretim Uç Noktasına Dokunmadan Önce Neyi Kanıtlamalı
Agent containment bir izin ve doğrulama sözleşmesidir, bir guardrail prompt'u değil. Her tool sınırının, agent'ın çalışma zamanında pazarlık edemeyeceği bir ön koşula ihtiyacı vardır.
Cihaz Üzerinde Arbitraj: Hangi Agent Adımlarının Telefondan Hiç Ayrılmaması Gerektiğine Karar Vermek
Yerel bir arbiter, hangi agent adımlarının telefon üzerinde çalışacağını ve hangilerinin buluta taşınacağını uygulama sezgileri yerine politika olarak kodlanmış biçimde belirler.
Agent'lar için Denetim İzleri Bir Dashboard Değil, Write-Ahead Log Problemidir
Agent hesap verebilirliği ancak her tool call, kimlik bilgisi kullanımı ve durum geçişi yürütülmeden önce kaydedildiğinde kanıtlanabilir; bu da logu bir çalışma zamanı bağımlılığı haline getirir.
Niyetsiz Kimlik: Ajanları Yetkilendirmek Onları Neden Sınırlamaz
Bir ajanın kimliğini doğrulamak ve token'ının kapsamını belirlemek, bir dizi araç çağrısı boyunca ne yaptığını sınırlamaz. Her yörünge için değerlendirilen niyet düzeyinde politika, kompozisyon boşluğunu kapatan kontroldür.
İzlenmeyen Agent'lar Bir Telemetri Boşluğudur, Güven Boşluğu Değil
Agent'lar izlenmeden çalışıyor çünkü framework'ler yapılandırılmış trace değil log üretiyor. Çözüm, sonradan eklenen araçlar değil, build zamanında bir sözleşme olarak observability'dir.
Orkestratör Bir Dağıtıcıdır: Ajan Sürüleri Neden Muhakemede Değil Kuyruklamada Başarısız Olur
Model muhakemesine yüklenen çok ajanlı arızaların çoğu aslında zamanlama arızasıdır. Sınırsız fan-out, backpressure yokluğu ve admission control eksikliği bir sürüyü retry fırtınasına çevirir.
Kendi Sonraki Hamlesini Seçen Kötü Amaçlı Yazılım İmza Savunmasını Kırıyor
Sızma araçları bir sonraki eylemlerini seçmek için bir model paneli kullandığında, tespit artefaktlardan davranışa kaymalıdır — ve agent platformları sonuçları devralır.
İnsan Konsiyerj Bir Özellik Değil, Yedek Yoldur
Agent hatalarını bir insana yönlendirmek ancak eskalasyon sözleşmesi açık olduğunda işe yarar: hangi durum devrediliyor, operatör neyi değiştirebilir ve düzeltme agent'a nasıl geri döner.
Durum Yönetimi Hafızayı Yener: Agent Kalıcılığı Üzerine Bir Tasarım Notu
Çoğu agent "hafıza" hatası aslında bir durum yönetimi hatasıdır. Geçmiş turlar üzerinde retrieval invariantları uygulayamaz; bir işlem günlüğü uygulayabilir.