Agent sistemleri geliştirmekten notlar
Değerlendirme koşum takımları, orkestrasyon desenleri, bellek tasarımı ve arkalarındaki başarısızlıklar — detaylar hâlâ tazeyken yazıya döküldü.
Agent Sürüleri Yalnızca Sorgu Bütçelerine Değil, Hız Bütçelerine de İhtiyaç Duyar
Uzun süre çalışan sürüler, tokenleri tüketmeden önce üçüncü taraf istek toleransını tüketir. Orkestrasyon, çıkış katmanında uygulanan hedef başına hız zarflarına göre planlama yapmalıdır.
Yörünge Maliyeti Bir Çizelgeleme Girdisidir, Sonradan Yazılan Bir Rapor Değil
Bir maliyet toplamı değil, bir maliyet eğrisi, orkestratörün her adımda derinliği harcamayla değiş tokuş etmesini sağlar. Bu yazı, bu değiş tokuşun çizelgeleyicinin içine ait olduğunu savunuyor.
Agent Orkestrasyonu Bir Süpervizör Değil, Bir Zamanlayıcı Gerektirir
Tek bir süpervizör sürüyü serileştirir ve gerçek darboğazı gizler: kabul kontrolü, kuyruklama ve önceliklendirme. Agent'lara süreçler gibi davranın, hata modları görünür hale gelir.
Agent Orkestrasyonu Bir Framework Değil, Bir Zamanlayıcı Gerektirir
Kubernetes tarzı kontrol primitifleri — admission, kotalar, preemption — agent sürülerine herhangi bir yeni agent DSL'inden daha faydalı şekilde aktarılır.