Sürülere Bahis
— Yazılı Olarak

Daha büyük bir beyne bahse girmiyorum. Daha akıllı bir kalabalığa bahse giriyorum. Şu anda inşa ettiğim her şeyi düzenleyen bahis bu: zeka tek bir modelin özelliği değildir — birçok model arasındaki yapılandırılmış etkileşimden doğar.

Bu, bir açılış konuşmasından ödünç aldığım bir metafor değil. Üç ölçekte gerçekleştiğini izlediğim bir örüntü. TÜBİTAK'ta protein dinamiklerini simüle ettim — androjen reseptöründeki F876L mutasyonu, bir kanser ilacını inhibitörden agonist'e çeviriyor — ve tek bir kalıntı değişiminin katlanmış bir molekül boyunca nasıl yayıldığını gördüm. Sonra connectomics'te, beynin kablolamasını kaba taramalardan kurtaran modeller kurdum — tutarlı düşünce üreten milyarlarca seyrek bağlı uzman. Şimdi, bir LLM & Agentic AI Engineer olarak, aynı örüntüyü yazılım agent'ları seviyesinde inşa ediyorum.

"Bütün, parçalarından herhangi birinden daha akıllı hale gelir — bunun katlanmış bir protein düzeyinde, sonra bir beyin grafiği düzeyinde gerçekleştiğini izledim ve şimdi ajanlar düzeyinde inşa ediyorum."

Tek agent'ların başarısızlık modu

Tek bir agent tek bir darboğaz, tek bir hata noktası, tek bir tahmindir. Tüm bağlamı tutar, tüm kararı verir ve yanıldığında — tam bir özgüvenle yanılır. Bunu ölçeklemek, tek bir hata modunu ölçeklemek demektir. Sektörün “döngüye daha büyük bir model at” kalıbı tam da bu çıkmaz sokaktır: kimse tek bir darboğazı ölçekleyerek kazanmaz.

Bir sürüyü gerçekten çalıştıran şey

• Ortak hedefler — her ajan "bitti"nin ne anlama geldiğini bilir, böylece iş birleşir.
• Görev ayrıştırma — sürü, bir problemi keyfi olarak değil, doğal dikişleri boyunca böler.
• Müzakere — ajanlar birbirlerinin üzerine yazmaz; uzlaşırlar.
• Bir doğrulayıcı — döngü, işin gerçekten yapıldığını kontrol eder. Doğrulama yoksa, sürü yok — sadece paralel halüsinasyon.

Sürüler bir mühendislik disiplinidir, bir his değil. Disiplin şudur: ayrıştır, devret, doğrula, yinele — ve başarısızlıkları yayınla. Herkesin abarttığı belirme (emergence), koordinasyon katmanı sıkıcı ve doğru olduğunda ortaya çıkan şeydir.

“Tek bir agent, amacı olan bir döngüdür. Bir sürü ise sinir sistemi olan bir döngüdür.”

Yani evet — sürülere bahse giriyorum. Moda olduğu için değil, dayanıklılık, ölçek ve kolektif akıl yürütme tek-agent tavanına karşı tek cevap olduğu için ve incelediğim her zeka seviyesinde bu örüntünün geçerli olduğunu gördüm.

İnsan beyni bildiğimiz en karmaşık graftır — ve tek bir model değildir. Bir cevaba tartışarak varan milyarlarca küçük, yarı bilgili ajandan oluşur. Ajanlar inşa etmeden önce, bu bağlantıyı tahmin eden sistemleri inşa ettim: konnektomik için süper çözünürlük, kaba ve gürültülü taramalardan yüksek çözünürlüklü beyin bağlantı matrislerinin geri kazanılması (CC0 Kaggle veri seti olarak açık kaynak yayınlandı). Bu bana çok ajanlı sistemler için beş tasarım kuralı öğretti.

1 · Seyrek bağlantılılık bir özelliktir, hata değil

Beyin, zengin davranışı seçici kablolamadan alır — nöronların çoğu milyarlarca komşusundan birkaç binine bağlanır. Agent'lar için ders: her şeyi her şeye bağlamayın. Kasıtlı yönlendirin. Tam bağlı bir agent grafiği zeka değildir; fazladan gecikmeli gürültüdür.

2 · Süper çözünürlük, tahmin değil kısıt kurtarmadır

Kaba bir connectome verildiğinde, model gerçek bağlantıyı yöneten anatomiyi ve fiziği öğrenir, ardından eksik yapıyı — beynin kendisinin yapacağı şekilde — çıkarır. Ders, agent tasarımının en derin kuralıdır: sadece gözlemlenen davranışa uymayın — onu üreten sistemi geri kazanın.

“Süper çözünürlük bana agent tasarımının en derin kuralını öğretti: sadece gözlemlenen davranışa uydurma — onu üreten sistemi geri kazan.”

3 · Uzmanlaşma artı koordinasyon

Konnektomik, sıkı sıkıya bağlı rollerin — duyusal, motor, yönetici — incelenmesidir. Sürüler heterojen uzmanlara ihtiyaç duyar, klonlardan oluşan bir komiteye değil. Verimlilik iş bölümünden gelir; doğruluk ise koordinasyondan gelir.

4 · Tek hata noktası yok

Beyin, lezyonlara karşı yedeklilik sayesinde dayanıklı kalır. Agent sistemleri de zarifçe bozulmalıdır: bir uzman başarısız olduğunda, diğerleri rotayı değiştirir. Zarif bozulma olmayan bir swarm, sadece kostüm giymiş bir monolittir.

5 · Modellediğin sistemin fiziğine saygı göster

Bu, moleküler dinamikten konnektomiye ve agent'lara uzanan ana hat: her sayı yalnızca onu üreten sistemin içinde anlam kazanır — katlanmış bir proteinin içindeki bir mutasyon, bir konnektomun içindeki bir bağlantı, bir sürünün içindeki bir tool call.

“Beyin tek bir model çalıştırmaz. Bir cevaba tartışarak varan milyarlarca küçük, yarı bilgili agent çalıştırır.”

Onu taklit eden agent'ları inşa etmeden önce bu bağlantıyı tahmin eden sistemi inşa ettim. Bu bir tesadüf değil — bu tasarım kılavuzu.

Alan, bir sonraki model sürümüne takılıp kalmış. Bence güvenilir agent'ları teslim etmenin gerçek kısıtı utanç verecek kadar gösterişsiz: agent'ın işi gerçekten yapıp yapmadığını bilmek. Agent'lar model aptal olduğu için başarısız olmaz — iyi bir tamamlamayı halüsinasyonlu olandan ayırt edemediğimiz için başarısız olurlar.

Geliştirdiğim ve incelediğim agent sistemlerinde, başarısızlıklar ezici çoğunlukla yapısal — yanlış komutlar, eksik adımlar, mantık hataları — nadiren "model yeterince akıllı değil." Yanlış argümanlarla bir araç çağrısı, ajanın atladığı bir adım, asla doğrulamadığı bir plan: bunlar akıl yürütme hataları değil, arayüz hatalarıdır. Ve onları yakalamanın tek güvenilir yolu, ajanı karşı kontrol edebileceğiniz bir dünyadır.

Amacı olan bir döngünün doğrulayıcıya ihtiyacı vardır

Bir geri bildirim döngüsü, kontrolü kadar akıllıdır. Doğrulayıcıyı inşa etmek — sandbox, assertion'lar, “hayır, bu işe yaramadı” diyebilen dünya modeli — mühendisliktir. Prompt kolay kısımdır.

“Bir geri bildirim döngüsü, doğrulayıcısı kadar akıllıdır. Kontrolü kur, yoksa sadece daha hızlı kendinden emin hatalar yapıyorsun.”

Değerlendirme bir ortam sorunudur, rubrik sorunu değil

Gerçek görevler, kontrol edebileceğiniz bir dünya gerektirir — bir sandbox, bir simülatör, bir oyun. Hisler ölçeklenmez. Bu yüzden ortam-öncelikli değerlendirmeye inanıyorum: dünyayı yeniden çalıştıramıyorsanız, agent'ı doğrulayamazsınız.

Enstrümantasyon tasarımın bir parçasıdır

Gözlemlenebilirlik, izler ve hata taksonomileri değerlendirme altyapısıdır. Bunları ilk günden itibaren toplayın — yayına alınmış bir agent'a sonradan iz eklemek mühendislik değil, arkeolojidir.

Dürüst kazanç

%35 doğrulanmış bir sonuç, her zaman %70 doğrulanmamış bir iddiayı yener. Baseline'ları yayınlayın. Hata modlarını yayınlayın. Yeniden üretilebilir bir hata bir araştırma sonucudur; iyi görünen bir halüsinasyon ise bir yükümlülüktür.

“Model kolay kısım. Agent'ın işi gerçekten yapıp yapmadığını bilmek zor kısım — ve bahse değer darboğaz da bu.”