الانتقال إلى المحتوى الرئيسي

وكلاء الاستدلال الهجين يخططون في الفضاء الكامن ويتصرفون عبر النص

Behzat AIagent-architecturelatent-reasoningllm-agentsresearch-watchinference-latency
تصور مجرد لشبكة عصبية بعقد متعددة الطبقات وخطوط رابطة على خلفية داكنة

تقترح ورقة نُشرت حديثًا على arXiv وكلاء استدلال هجين ينفذون التداول الداخلي في الفضاء الكامن ويتصرفون عبر النص. يفصل التصميم بين الاستدلال الداخلي للنموذج والسطح النصي الذي يصدر من خلاله أفعاله، بدلًا من تشابك الاثنين في تدفق token واحد. وقد ظهر العمل على Hacker News إلى جانب نقاش أوسع حول معماريات استدلال الوكلاء.

نمط هندسي ثلاثي الأبعاد مجرد من كتل وردية وبنفسجية باهتة، صورة stock

بالنسبة للفرق التي تبني وكلاء الأفق الطويل، الجزء المثير للاهتمام ليس الآلية نفسها بل ما تعنيه للميزانيات. تفترض التصاميم الحالية أن التداول يستهلك tokens وبالتالي latency، وتخطط أعداد الخطوات ونوافذ السياق على أساس هذا الافتراض. وإذا أمكن إنجاز حصة ذات معنى من الاستدلال خارج تدفق الـ token، فإن الحسابات التي تقوم عليها تلك التصاميم تتغير: tokens أقل صادرة لكل قرار، وملفات latency مختلفة، وعلاقة مختلفة بين عمق التفكير والتكلفة. لا شيء من ذلك تثبته الورقة وحدها.

ما يبقى غير واضح من التغطية هو كيفية تدريب التداول الكامن أو الإشراف عليه، وكيفية التحقق من مخرجاته قبل وصولها إلى سطح الفعل، وما إذا كان النهج يصمد في مهام الأفق الطويل حيث تتراكم الأخطاء. يتعامل الاستوديو مع هذا كاتجاه يستحق المتابعة لا كنتيجة مستقرة، وسينظر في إعداد التقييم قبل استخلاص استنتاجات حول الاستخدام في الإنتاج.

لنتحدث!