Koordinasyon Sorunu Model Değildir
Çok ajanlı sistemler kuran çoğu ekip, darboğazın model yeteneği olduğunu varsayarak başlar. Nadiren öyledir. Modeller alt görevler için yeterince iyidir. İlk bozulan şey koordinasyon katmanıdır: ajanların durumu nasıl paylaştığı, sıradaki kimin hareket edeceğine nasıl karar verdikleri ve içlerinden biri diğerlerinin kullanamayacağı bir şey ürettiğinde sistemin nasıl toparlandığı.
Tek bir ajan bir döngüdür. Bir sürü ise doğal dille iletişim kuran, güvenilmez düğümlerden oluşan dağıtık bir sistemdir. Başarısızlık modlarını doğru öngören çerçeveleme bu ikincisidir.
Doğal Dil Devirleri Neden Kırılgandır
Bir ajan işi diğerine devrettiğinde, devir genellikle yapılandırılmamış metindir. Bu, prototipleme sırasında kullanışlı, üretimde ise üç nedenden dolayı pahalıdır.
Birincisi, doğal dil devirleri kayıplıdır. Alıcı ajan, niyeti düzyazıdan yeniden çıkarsamak zorundadır. Gönderen ajan bir kısıtı atladıysa, alıcı onu geri getiremez. Doğrulanacak bir şema yoktur.
İkincisi, deterministik değildirler. Aynı üst akış çıktısı, farklı çalıştırmalarda farklı yorumlanabilir; bu da başarısızlıkları yeniden üretmeyi zorlaştırır.
Üçüncüsü, kısmi başarısızlığı gizler. Makul ama eksik bir sonuç döndüren bir ajan, aşağı akışta bunu kontrol eden bir şey yoksa, başarılı olanla aynı görünür.
Çözüm, doğal dili ortadan kaldırmak değildir. Devir yüzeyini kısıtlamaktır. Ajanlar arası mesajlar için tipli bir zarf tanımlayın: bir görev tanımlayıcısı, üretilen artefakt, geçerli olması gereken kısıtlar ve açık bir durum. Ajanın düzyazısı bir alanın içinde yaşayabilir, ama orkestratörün yönlendirdiği ve doğruladığı şey zarftır.
Somut Bir Mekanizma: Tipli Zarflar ve Doğrulama Kapıları
Bir planlayıcı, birkaç erişimci, bir sentezleyici ve bir eleştirmenden oluşan bir araştırma-ve-taslak hattı düşünün. Yapı olmadan, sentezleyici bir metin yığını alır ve neyin önemli olduğunu tahmin eder.
Tipli zarflarla akış şöyle görünür:
{
"task_id": "r-014",
"produced_by": "retriever-2",
"status": "partial",
"artefact": { "claims": [ { "text": "...", "source": "..." } ] },
"constraints": ["no claims without a source", "max 12 claims"],
"missing": ["coverage of the cost dimension"]
}
Orkestratör düzyazıyı okumaz. status, constraints ve missing alanlarını okur. status partial ise, bozuk bir artefaktı ileriye geçirmek yerine eksik boyutu yeniden dağıtabilir. Sentezleyici yalnızca kısıtları karşılanan zarfları alır.
Bu bir doğrulama kapısıdır ve çoğu sürüye yapılabilecek en yüksek kaldıraçlı tek eklemedir. Sessiz bozulmayı açık bir yönlendirme kararına dönüştürür. Ayrıca sistemi test edilebilir kılar: kaydedilmiş bir zarf kümesini hiçbir model çağırmadan orkestratörden yeniden oynatabilirsiniz.
Topoloji Seçimleri ve Maliyetleri
Evrensel olarak doğru bir sürü şekli yoktur. Üçü yaygındır ve her biri bir şeyden feragat eder.
Süpervizör deseni. Bir orkestratör ajan işçilere dağıtır ve toplar. Akıl yürütmesi kolay, günlüklemesi kolay ve başarısızlık yönetimini merkezileştirir. Maliyeti bir darboğazdır: süpervizörün bağlamı doğru yönlendirme yapabilmek için yeterince şey tutmalıdır ve hataları her yere yayılan tek nokta haline gelir.
Boru hattı deseni. Ajanlar zincirlenir, her biri önceki çıktıyı dönüştürür. Basit ve öngörülebilir. Maliyeti kırılganlıktır: erken bir hata birikir ve onu absorbe edecek bir dal yoktur. Boru hatları, açık uçlu araştırmaya değil, iyi tanımlanmış dönüşümlere uygundur.
Eşler arası veya tartışma deseni. Ajanlar doğrudan alışverişte bulunur ve bir yanıt üzerinde yakınsar. Bir süpervizörün üstünü örteceği anlaşmazlıkları ortaya çıkarabilir. Maliyeti, sınırlanmasının zor olmasıdır: token harcaması, gecikme ve sonlanma koşulları önemsiz hale gelir. Açık bir tur limiti ve bir yakınsama kriteri olmadan, kendinden emin görünen gürültü üretirken süresiz çalışabilir.
Pratikte çoğu üretim sistemi, tam bağlantılı bir ağ değil, tipli zarflara ve bir veya iki özelleşmiş alt boru hattına sahip bir süpervizördür.
Dürüst Ödünleşim: Paralellik Gecikme Kazandırır, Tutarlılığa Mal Olur
Ajanları paralel çalıştırmak duvar saati süresini azaltır ve verimi artırır. Aynı zamanda, sonraki bir ajanın öncekinin ne öğrendiğini görmesini sağlayan sıralı bağlamı ortadan kaldırır. Paralel çalışan iki erişimci örtüşen veya çelişkili iddialar döndürebilir; sıralı bir zincir, ikinc
Ödünleşim gerçektir ve mühendislikle ortadan kaldırılamaz. Yapılabilecek şey, birleştirme adımını açık hale getirmektir. Paralel dallar tipli zarflar yaymalı ve birleştirme, çatışmaları tanımlı bir kuralla uzlaştırmalıdır; örneğin daha yüksek kaynak skoruna sahip kaynağı tercih etmek veya çatışmayı bir eleştirmen ajana işaretlemek. Bir birleştirme politikası olmadan, paralellik daha büyük bir doğrulanmamış metin yığınını daha hızlı üretir.
İkinci bir ödünleşim gözlemlenebilirliktir. Her ek ajan, izlenmesi gereken bir atlama ekler. Orkestratör zarf başına yapılandırılmış bir iz yaymazsa, bir sürüyü hata ayıklamak tahmine dönüşür. Enstrümantasyonun maliyeti baştan ödenir ve bir çalıştırma elle yeniden üretilemeyecek şekilde başarısız olduğunda ilk kez geri kazanılır.
Değerlendirme Dikişleri Hedeflemelidir
Tek tek ajanları izole olarak değerlendirmek gereklidir ama yetersizdir. Bir sürüde önemli olan başarısızlıklar dikişlerde olur: bir kısıtı düşüren bir devir, bir çatışmayı yanlış çözen bir birleştirme, işi çoğaltan bir yeniden deneme.
Pratik bir yaklaşım, üç düzeyde değerlendirmektir.
- Ajan düzeyi. Ajan, iyi biçimlendirilmiş bir girdi verildiğinde kendi sözleşmesini karşılıyor mu? Test edilmesi en kolay ve sistem davranışını en az öngören budur.
- Devir düzeyi. Kaydedilmiş üst akış zarfları verildiğinde, alt akış ajanı belirtilen kısıtlarını karşılayan bir zarf üretiyor mu? Bu, şema kaymasını ve sessiz kısmi başarısızlığı yakalar.
- Yörünge düzeyi. Tam bir görev verildiğinde, sistem sınırlı sayıda adım ve token içinde kabul edilebilir bir sonuca ulaşıyor mu? Topoloji ve birleştirme politikası asıl burada test edilir.
Yörünge değerlendirmesi, ajanların kendi öz-bildirimlerinden bağımsız bir kabul edilebilir sonuç tanımı gerektirir. Aksi halde sistem kendi ödevini kendi notlar.
Önce Ne İnşa Edilmeli
Bir sürü başarısız oluyorsa, düzeltmelerin sırası, herhangi birinin inceliğinden daha önemlidir.
- Her ajanlar arası mesaj için tipli zarflar getirin. Bu tek başına başarısızlıkları görünür kılar.
- Her devirde doğrulama kapıları ekleyin; açık bir
partialdurumu ve bir yeniden dağıtım yolu ile. - Paralel dallar için bir birleştirme politikası tanımlayın; çatışmaların nasıl tespit edilip çözüleceği dahil.
- Zarf başına yapılandırılmış bir iz enstrümante edin, böylece çalıştırmalar yeniden oynatılabilir.
- Ancak bundan sonra prompt'ları ayarlayın veya modelleri değiştirin.
Çoğu ekip bunu ters sırayla yapar; koordinasyon katmanı neyin yanlış gittiğini ifade edemeden önce daha güçlü bir modele uzanır.
Sonuç
Bir LLM ajan sürüsünü ölçeklemek, makine öğrenmesi kostümü giymiş bir dağıtık sistemler problemidir. Modeller genellikle yeterlidir; devirler, birleştirme politikaları ve gözlemlenebilirlik genellikle değildir. Tipli zarflar, doğrulama kapıları ve yörünge düzeyinde değerlendirme, üretimde gerçekten ortaya çıkan başarısızlık modlarını ele alır. Ödünleşimler, özellikle paralellik ile tutarlılık arasındakiler, tesadüfi değil yapısaldır ve dürüst hamle bunları bilinçli olarak seçmek ve sonuçlarını enstrümante etmektir.