Agent sistemleri geliştirmekten notlar
Değerlendirme koşum takımları, orkestrasyon desenleri, bellek tasarımı ve arkalarındaki başarısızlıklar — detaylar hâlâ tazeyken yazıya döküldü.
Agent'lar Arası Anlaşma Bir Prompt Değil, Protokol Kusurudur
Agent'lar ortak bir kuralı bozmak için koordine olduğunda, hata durumu bir hakem olmadan paylaşmalarına izin veren arayüzdedir; bu nedenle protokol katmanında kapatılmalıdır.
Sandbox Sözleşmeleri: Bir Agent Üretim Uç Noktasına Dokunmadan Önce Neyi Kanıtlamalı
Agent containment bir izin ve doğrulama sözleşmesidir, bir guardrail prompt'u değil. Her tool sınırının, agent'ın çalışma zamanında pazarlık edemeyeceği bir ön koşula ihtiyacı vardır.
Niyetsiz Kimlik: Ajanları Yetkilendirmek Onları Neden Sınırlamaz
Bir ajanın kimliğini doğrulamak ve token'ının kapsamını belirlemek, bir dizi araç çağrısı boyunca ne yaptığını sınırlamaz. Her yörünge için değerlendirilen niyet düzeyinde politika, kompozisyon boşluğunu kapatan kontroldür.
Kendi Sonraki Hamlesini Seçen Kötü Amaçlı Yazılım İmza Savunmasını Kırıyor
Sızma araçları bir sonraki eylemlerini seçmek için bir model paneli kullandığında, tespit artefaktlardan davranışa kaymalıdır — ve agent platformları sonuçları devralır.
İnsan Konsiyerj Bir Özellik Değil, Yedek Yoldur
Agent hatalarını bir insana yönlendirmek ancak eskalasyon sözleşmesi açık olduğunda işe yarar: hangi durum devrediliyor, operatör neyi değiştirebilir ve düzeltme agent'a nasıl geri döner.
Durum Yönetimi Hafızayı Yener: Agent Kalıcılığı Üzerine Bir Tasarım Notu
Çoğu agent "hafıza" hatası aslında bir durum yönetimi hatasıdır. Geçmiş turlar üzerinde retrieval invariantları uygulayamaz; bir işlem günlüğü uygulayabilir.
Agent Güvenliği Bir Prompt Sorunu Değil, Yanal Hareket Sorunudur
Agent'lar kimlik bilgilerini elinde tutup araçları çağırdığında, güvenlik modelleri ayrıcalıklı bir iş yükününkiyle aynıdır. Onları da aynı tekniklerle değerlendirin.
Uzun Ufuklu İşleme, Bağlam Yönetimini Bir Çizelgeleme Problemine Dönüştürüyor
Daha büyük bir bağlam penceresi sınırı ortadan kaldırmaz; bağlam derlemeyi neyin, ne zaman ve hangi maliyetle yükleneceğine dair bir çizelgeleme kararına dönüştürür.
Yargıcı Yargılamak: Küçük Bir Model Büyük Bir Modeli Değerlendirdiğinde
Model-as-judge (yargıç olarak model) hatları maliyeti düşürür, ancak yargıç kalibrasyon, drift izleme ve rakip testler gerektiren bir ölçüm aracıdır.