پرش به محتوای اصلی

عامل‌های استدلالی ترکیبی در فضای نهفته برنامه‌ریزی می‌کنند و از طریق متن عمل می‌کنند

Behzat AIagent-architecturelatent-reasoningllm-agentsresearch-watchinference-latency
تجسم انتزاعی یک شبکه عصبی با گره‌های لایه‌ای و خطوط اتصال روی پس‌زمینه تیره

یک مقاله تازه‌منتشرشده در arXiv عامل‌های استدلالی ترکیبی را پیشنهاد می‌کند که تأمل درونی را در فضای نهفته انجام می‌دهند و از طریق متن عمل می‌کنند. این طراحی استدلال درونی مدل را از سطح متنی‌ای که از طریق آن اقدامات را صادر می‌کند جدا می‌سازد، به جای آنکه این دو را در یک جریان توکن درهم بیامیزد. این کار در Hacker News در کنار بحث گسترده‌تر درباره معماری‌های استدلال عاملی مطرح شد.

الگوی هندسی سه‌بعدی انتزاعی از بلوک‌های صورتی پاستلی و بنفش، عکس استوک

برای تیم‌هایی که عامل‌های افق بلند می‌سازند، بخش جالب خودِ سازوکار نیست، بلکه آن چیزی است که برای بودجه‌ها به همراه دارد. طراحی‌های کنونی بر این فرض استوارند که تأمل هزینه توکن دارد و در نتیجه تأخیر، و تعداد گام‌ها و پنجره‌های زمینه را بر پایه همین فرض برنامه‌ریزی می‌کنند. اگر سهم معناداری از استدلال بتواند بیرون از جریان توکن رخ دهد، حساب‌وکتاب پشت این طراحی‌ها تغییر می‌کند: توکن‌های منتشرشده کمتر به ازای هر تصمیم، پروفایل‌های تأخیر متفاوت، و رابطه‌ای متفاوت میان عمق تفکر و هزینه. هیچ‌یک از این‌ها به‌تنهایی با این مقاله اثبات نمی‌شود.

آنچه از پوشش خبری روشن نیست این است که تأمل نهفته چگونه آموزش داده یا نظارت می‌شود، خروجی‌های آن پیش از رسیدن به سطح عمل چگونه اعتبارسنجی می‌شوند، و آیا این رویکرد در وظایف افق بلند که خطاها انباشته می‌شوند دوام می‌آورد. استودیو این را جهتی قابل پیگیری می‌داند نه نتیجه‌ای قطعی، و پیش از نتیجه‌گیری درباره استفاده تولیدی، به چیدمان ارزیابی نگاه خواهد کرد.

بیایید صحبت کنیم!