شرط‌بندی روی ازدحام‌ها
— در دست نوشتن

من روی مغز بزرگ‌تر شرط نمی‌بندم. من روی جمعیت هوشمندتر شرط می‌بندم. این همان شرطی است که همه‌چیز را که اکنون می‌سازم سازمان می‌دهد: هوش ویژگی یک مدل واحد نیست — از تعامل ساختاریافته میان بسیاری پدید می‌آید.

این استعاره‌ای نیست که از یک سخنرانی کلیدی قرض گرفته باشم. الگویی است که در سه مقیاس دیده‌ام. در TÜBİTAK دینامیک پروتئین را شبیه‌سازی کردم — جهش F876L در گیرنده آندروژن که یک داروی سرطان را از مهارکننده به آگونیست تبدیل می‌کند — و دیدم چگونه تغییر یک باقیمانده در یک مولکول تاشده منتشر می‌شود. سپس در کانکتومیکس، مدل‌هایی ساختم که سیم‌کشی مغز را از اسکن‌های درشت بازیابی می‌کنند — میلیاردها متخصص کم‌ارتباط که اندیشه منسجم تولید می‌کنند. اکنون، به‌عنوان مهندس LLM و هوش مصنوعی عامل‌محور، همان الگو را در سطح عامل‌های نرم‌افزاری می‌سازم.

«کل از هر یک از اجزایش باهوش‌تر می‌شود — من آن را در سطح یک پروتئین تاشده دیدم، سپس در سطح یک گراف مغز، و اکنون آن را در سطح عامل‌ها می‌سازم.»

حالت شکست ایجنت‌های تک

یک agent یعنی یک گلوگاه، یک نقطهٔ شکست، یک حدس. کل context را نگه می‌دارد، کل تصمیم را می‌گیرد، و وقتی اشتباه می‌کند — با اطمینان کامل اشتباه می‌کند. مقیاس‌دهی به این معنا یعنی مقیاس‌دهی به یک حالت شکست واحد. الگوی صنعتی «یک مدل بزرگ‌تر به حلقه پرتاب کن» دقیقاً همان بن‌بست است: هیچ‌کس با مقیاس‌دهی به یک گلوگاه واحد برنده نمی‌شود.

آنچه واقعاً یک ازدحام را کارآمد می‌کند

• اهداف مشترک — هر عامل می‌داند “انجام شده” به چه معناست، بنابراین کار ترکیب می‌شود.
• تجزیه وظیفه — ازدحام یک مسئله را در امتداد درزهای طبیعی‌اش تقسیم می‌کند، نه به‌صورت دلبخواهی.
• مذاکره — عامل‌ها یکدیگر را بازنویسی نمی‌کنند؛ آنها آشتی می‌کنند.
• یک راستی‌آزما — حلقه بررسی می‌کند که کار واقعاً انجام شده است. بدون تأیید، بدون ازدحام — فقط توهم موازی.

ازدحام‌ها یک رشته مهندسی هستند، نه یک حال‌وهوا. این رشته عبارت است از: تجزیه، واگذاری، راستی‌آزمایی، تکرار — و انتشار شکست‌ها. آن ظهور که همه تبلیغش را می‌کنند همان چیزی است که وقتی لایه هماهنگی خسته‌کننده و درست باشد به دست می‌آید.

“یک ایجنت تنها یک حلقه با هدف است. یک ازدحام یک حلقه با سیستم عصبی است.”

پس بله — من روی ازدحام‌ها شرط می‌بندم. نه به این خاطر که مد روزند، بلکه چون تاب‌آوری، مقیاس‌پذیری و استدلال جمعی تنها پاسخ‌ها به سقف تک‌عامل هستند، و من این الگو را در هر سطحی از هوشی که مطالعه کرده‌ام دیده‌ام که برقرار می‌ماند.

مغز انسان پیچیده‌ترین گرافی است که می‌شناسیم — و یک مدل واحد نیست. میلیاردها عامل کوچک و نیمه‌آگاه است که با بحث و جدل به یک پاسخ می‌رسند. پیش از آنکه عامل بسازم، سیستم‌هایی ساختم که آن سیم‌کشی را پیش‌بینی می‌کنند: ابرتفکیک‌پذیری برای کانکتومیکس، بازیابی ماتریس‌های اتصال مغزی با تفکیک‌پذیری بالا از اسکن‌های درشت و نویزی (منتشرشده به‌صورت متن‌باز به‌عنوان یک دیتاست CC0 در Kaggle). این کار پنج قاعده طراحی برای سیستم‌های چندعاملی به من آموخت.

۱ · اتصال پراکنده یک ویژگی است، نه یک اشکال

مغز رفتار غنی را از سیم‌کشی گزینشی به دست می‌آورد — بیشتر نورون‌ها به چند هزار از میلیاردها همسایه‌شان متصل می‌شوند. درس برای عامل‌ها: همه را به همه وصل نکن. عامدانه مسیریابی کن. گراف عامل کاملاً متصل هوش نیست؛ نویز با تأخیر اضافی است.

۲ · ابرتفکیک‌پذیری بازیابی قید است، نه حدس و گمان

با داشتن یک کانکتوم درشت، مدل آناتومی و فیزیک حاکم بر سیم‌کشی واقعی را می‌آموزد، سپس ساختار گمشده را استنتاج می‌کند — همان‌طور که خود مغز انجام می‌دهد. درس، عمیق‌ترین قاعدهٔ طراحی agent است: فقط رفتار مشاهده‌شده را برازش نکن — سیستمی را که آن را تولید کرده بازیابی کن.

“سوپررزولوشن عمیق‌ترین قاعدهٔ طراحی ایجنت را به من آموخت: فقط رفتار مشاهده‌شده را برازش نکن — سیستمی که آن را تولید کرده بازیابی کن.”

۳ · تخصص به‌همراه هماهنگی

کانکتومیکس مطالعه نقش‌هایی است — حسی، حرکتی، اجرایی — که به‌شدت جفت‌شده‌اند. ازدحام‌ها به متخصصان ناهمگون نیاز دارند، نه کمیته‌ای از کلون‌ها. تقسیم کار منشأ کارایی است؛ هماهنگی منشأ درستی است.

۴ · بدون نقطه شکست واحد

مغز از طریق افزونگی در برابر ضایعات مقاوم می‌ماند. سیستم‌های ایجنت باید به‌طور تدریجی تخریب شوند: وقتی یک متخصص شکست می‌خورد، دیگران مسیر را تغییر می‌دهند. ازدحامی بدون تخریب تدریجی فقط یک یکپارچهٔ لباس‌پوشیده است.

۵ · به فیزیک سیستمی که مدل می‌کنی احترام بگذار

این خط پیوسته از دینامیک مولکولی تا کانکتومیکس تا agentها است: هر عدد تنها درون سیستمی معنا پیدا می‌کند که آن را تولید کرده — یک جهش درون پروتئینی تاشده، یک اتصال درون یک کانکتوم، یک tool call درون یک ازدحام.

“مغز یک مدل را اجرا نمی‌کند. میلیاردها ایجنت کوچک و نیمه‌آگاه را اجرا می‌کند که با بحث به یک پاسخ می‌رسند.”

من سیستمی را ساختم که آن سیم‌کشی را پیش‌بینی می‌کند، پیش از آنکه agentهایی بسازم که آن را تقلید می‌کنند. این تصادفی نیست — این دفترچهٔ طراحی است.

این حوزه روی انتشار مدل بعدی متمرکز شده است. من فکر می‌کنم محدودیت واقعی برای تحویل عامل‌های قابل اعتماد به شکلی خجالت‌آور غیرجذاب است: دانستن اینکه آیا عامل واقعاً کار را انجام داده یا نه. عامل‌ها شکست نمی‌خورند چون مدل احمق است — شکست می‌خورند چون نمی‌توانیم تکمیل خوب را از توهم تشخیص دهیم.

در سیستم‌های agentی که می‌سازم و بررسی می‌کنم، شکست‌ها به‌طور غالب ساختاری — دستورات اشتباه، مراحل گمشده، خطاهای منطقی — به ندرت “مدل به اندازه کافی باهوش نیست.” یک فراخوانی ابزار با آرگومان‌های اشتباه، مرحله‌ای که عامل رد کرد، برنامه‌ای که هرگز تأیید نکرد: اینها شکست‌های رابط هستند، نه شکست‌های استدلال. و تنها راه قابل اعتماد برای گرفتن آنها دنیایی است که می‌توانید عامل را در برابر آن بررسی کنید.

حلقه‌ای با هدف، نیازمند راستی‌آزماست

یک حلقه بازخورد تنها به اندازهٔ چک خود هوشمند است. ساختن وریفایر — سندباکس، ادعاها، مدل جهانی که می‌تواند بگوید “نه، آن کار نکرد” — همان مهندسی است. پرامپت بخش آسان است.

“یک حلقه بازخورد تنها به اندازهٔ وریفایر خود هوشمند است. چک را بساز، وگرنه فقط اشتباهات مطمئن را سریع‌تر مرتکب می‌شوی.”

ارزیابی یک مسئله محیطی است، نه یک مسئله معیار سنجش

کارهای واقعی به جهانی نیاز دارند که بتوانید با آن بسنجید — یک sandbox، یک شبیه‌ساز، یک بازی. حس‌وگمان مقیاس نمی‌گیرد. به همین دلیل به ارزیابی محیط‌محور باور دارم: اگر نتوانید جهان را دوباره اجرا کنید، نمی‌توانید agent را تأیید کنید.

ابزارگذاری بخشی از طراحی است

قابلیت مشاهده، ردگیری‌ها و طبقه‌بندی‌های شکست، زیرساخت ارزیابی هستند. از روز اول آن‌ها را جمع‌آوری کنید — افزودن ردگیری به یک عامل عرضه‌شده، باستان‌شناسی است، نه مهندسی.

پیروزی صادقانه

یک دقت ۳۵٪ همراه با راستی‌آزمایی، همیشه بر ادعای ۷۰٪ راستی‌آزمایی‌نشده برتری دارد. خطوط مبنا را منتشر کنید. حالت‌های شکست را منتشر کنید. شکست قابل بازتولید یک نتیجه پژوهشی است؛ توهم خوش‌بینانه یک ریسک است.

“مدل بخش آسان است. دانستن اینکه آیا ایجنت واقعاً کار را انجام داده بخش سخت است — و همان گلوگاه ارزش شرط‌بندی است.”