اقتصاديات الأوزان المفتوحة: ما الذي يتغير عندما يصبح الاستدلال بندًا تملكه

التحوّل

على مدى معظم العامين الماضيين، كانت معمارية الوكيل تتشكّل وفق قيد صارم واحد: كل رمز يكلّف مالًا، والعدّاد يعمل على بنية تحتية يملكها شخص آخر. استجابت الفرق بمنطقية. قلّصت الـ prompts، واستخدمت التخزين المؤقت بكثافة، وحجزت أكبر النماذج للخطوات التي تحتاجها فعلًا. كان النموذج هو المورد النادر؛ أما التنسيق فكان ما يتّسع حوله.

هذا القيد يتراخى. لقد أغلقت النماذج مفتوحة الأوزان معظم الفجوة في اتباع التعليمات واستخدام الأدوات والمخرجات المهيكلة، بينما أصبحت حزم الخدمة فعّالة بما يكفي لتشغيلها بحجم ذي معنى على عتاد مملوك أو محجوز. النتيجة العملية ليست اختفاء النماذج الكبيرة المستضافة. بل أن التكلفة الحدّية للرمز تصبح معامل تصميم تتحكم به بدلًا من فاتورة تستلمها.

عندما يصبح الاستدلال الحدّي رخيصًا وقابلًا للتنبؤ، يتوقف السؤال المثير عن كونه "أي نموذج؟" ويبدأ في كونه "كم مرة، وبأي ترتيب، وبأي طريقة تحقّق؟" ينتقل عنق الزجاجة من اختيار النموذج إلى جودة التنسيق واستغلال العتاد.

التوجيه يصبح معمارية

التغيير الأول المرئي هو أن توجيه النماذج يتوقف عن كونه قرار شراء ويصبح قرارًا بنيويًا. نادرًا ما يكون عبء عمل الوكيل عالي الحجم صعبًا بشكل موحّد. إنه ذيل طويل من الخطوات السهلة — التصنيف، والاستخلاص، والتطبيع، وإعادة صياغة استعلام الاسترجاع، والتحقق من المخطط — تتخلله أعداد قليلة من الخطوات الصعبة فعلًا: التخطيط متعدد الخطوات، ورفع الالتباس، والتركيب عبر مصادر متعارضة.

بمجرد أن تستطيع تشغيل الخطوات السهلة على نموذج صغير مستضاف ذاتيًا، يتغيّر شكل ملف التكلفة للنظام بأكمله. لا تزال الخطوات الصعبة تُوجَّه إلى نموذج متقدّم، لكنها الآن أقلية من الاستدعاءات. تُقرأ المعمارية كسياسة توجيه: مصنّف رخيص يقرّر أي طبقة تتولى كل خطوة، والطبقة المكلفة محجوزة. تلك السياسة كود تملكه، وتُصدّر إصداراته، وتختبره — لا نقطة نهاية لمورّد.

هذه هي الآلية التي يستحق أن نكون محددين بشأنها. طبقة التوجيه النموذجية تتكوّن من ثلاثة أجزاء:

• إشارة الصعوبة. نموذج صغير (أو قاعدة استدلالية على طول المدخل وعدد الأدوات وتعقيد المخطط) يُقيّم الخطوة الواردة. هذه الإشارة رخيصة وغير مثالية؛ مهمتها أن تكون متحفّظة بشأن التصعيد.
• خريطة الطبقات. كل طبقة تشير إلى نشر ملموس: نموذج مفتوح الأوزان مُكمَّم على وحدات GPU محلية، أو نموذج صغير مستضاف، أو نموذج متقدّم مستضاف. الطبقات قابلة للتبادل خلف واجهة مستقرة.
• مسار الاحتياط والتصعيد. عندما تفشل الطبقة الرخيصة في التحقق — JSON مشوّه، أو استشهاد مفقود، أو فشل في استدعاء أداة — تُعاد الخطوة على الطبقة الأعلى. التصعيد هو شبكة الأمان التي تتيح لك أن تكون جسورًا مع الطبقة الرخيصة.

لا تنجح الاقتصاديات إلا إذا كان التصعيد نادرًا ومقاسًا. إذا صُعِّد ثلث استدعاءات الطبقة الرخيصة، فقد دفعت مرتين ولم تكسب شيئًا. هذا القياس شأن من شؤون التنسيق، وهو حيث يذهب معظم الجهد الهندسي الآن.

ما الذي يمكّنه

الاستدلال الحدّي الرخيص والقابل للتحكم يغيّر تصاميم الوكلاء التي تصبح ميسورة التكلفة، وبالتالي التصاميم التي تُبنى.

توسّع أوسع. خطوة التخطيط التي كانت تنتج خطة مرشّحة واحدة يمكنها الآن إنتاج عدة خطط، تُقيَّم كل منها وتُمنح درجة قبل الاختيار. أخذ عينات من مسارات استدلال متعددة واختيار الأفضل طريقة مفهومة جيدًا لرفع الموثوقية، لكنها تضاعف الاستدلال. عندما يكون المضاعف تكلفة محلية مضبوطة بدلًا من فاتورة لكل استدعاء، يصبح التوسّع خيارًا افتراضيًا لا رفاهية.

مزيد من دورات التحقق. التحقق هو الجزء من تصميم الوكيل الذي يغطي تكلفته وأسهل ما يُقتطع تحت ضغط التكلفة. نموذج تحقق رخيص يعيد قراءة كل استدعاء أداة، ويتحقق من كل حقل مستخلص مقابل نطاق مصدره، ويرفض الادعاءات غير المدعومة، يمكنه العمل على كل خطوة بدلًا من عيّنة. لا يحتاج المتحقق إلى أن يكون بارعًا؛ يحتاج إلى أن يكون متسقًا ورخيصًا بما يكفي ليعمل دائمًا.

تقييم مستمر. ربما يكون التغيير الأكثر أثرًا في منظومة التقييم. عندما يكون الاستدلال بندًا تملكه، لم تعد مجموعة التقييم مهمة دفعات ليلية تتنافس على الميزانية. إنها خدمة تعمل باستمرار مقابل كل تغيير في الـ prompt أو سياسة التوجيه أو إصدار النموذج. ينتقل كشف الانحدار من "صباح الغد" إلى "الإيداع التالي". يظهر الانحراف السلوكي في نموذج مُكمَّم أو موجّه مُعاد ضبطه بينما لا يزال التغيير قيد المراجعة.

لا شيء من هذه تقنيات جديدة. كانت كلها معروفة وكلها مُقنَّنة. التحوّل هو أن قيد التقنين قد انتقل.

ما الذي يكلّفه

ملكية الاستدلال تقايض فاتورة متغيرة بعبء تشغيلي ثابت، والعبء ليس صغيرًا.

تخطيط السعة. نقطة النهاية المستضافة تمتص الذروات. أما النشر المستضاف ذاتيًا فلا. تحتاج إلى معرفة ذروة عدد الخطوات المتزامنة، والرموز في الثانية لكل نسخة، ومقدار الهامش الذي تحتفظ به لدورات التقييم التي تنافس الآن حركة الإنتاج. إن قلّلت التجهيز، تتدهور زمن الاستجابة بالضبط عندما يكون الوكيل في أكثر أوقات انشغاله؛ وإن بالغت في التجهيز، يتبخر ميزة التكلفة في وحدات GPU خاملة. هذه مشكلة تنبؤ لها نتائج حقيقية، وهي لا تزول.

خيارات التكميم. تشغيل نموذج مفتوح الأوزان بدقة مخفّضة ضروري عادةً لتحقيق إنتاجية مفيدة على العتاد المتاح. كل مستوى تكميم هو نموذج مختلف بسلوك مختلف: قد تتدهور المخرجات المهيكلة قبل النص الحر، وغالبًا ما يتدهور استرجاع السياق الطويل أولًا. الخيار ليس تفصيلًا في النشر؛ إنه تغيير سلوكي يجب تقييمه مثل أي تغيير آخر.

تثبيت الإصدارات. تتغيّر النماذج المتقدّمة المستضافة تحتك، وهذه مشكلة بحد ذاتها، لكن التغيير على الأقل موحّد. أما أسطول مستضاف ذاتيًا فيثبّت أوزانًا محددة، وإصدارات حزم خدمة محددة، ومخرجات تكميم محددة. يمنحك ذلك قابلية إعادة الإنتاج، ويمنحك التزام الصيانة: تصحيحات الأمان، وتحديثات التعريفات، والانضباط في التعامل مع ترقية الأوزان كإصدار له دورة تقييمه الخاصة.

الأساطيل غير المتجانسة تعقّد التقييم. هذه هي المقايضة الصادقة في قلب الطرح. بمجرد أن يختلف السلوك حسب المسار، تصبح درجة تقييم إجمالية واحدة مضللة. قد يحسّن تغيير في الـ prompt الطبقة المتقدّمة بينما يخفّض بصمت الطبقة الرخيصة، وقد لا يتحرك الإجمالي. يجب تقطيع التقييم حسب المسار، ويجب تتبع مقاييس كل مسار عبر الزمن. تصبح المنظومة أكثر تعقيدًا بالضبط لأن المعمارية أصبحت أكثر قدرة.

هناك تكلفة إضافية يسهل التقليل من تقديرها: سياسة التوجيه نفسها تصبح مكوّنًا له أنماط فشل. إشارة صعوبة مضبوطة خطأً ترسل الخطوات الصعبة إلى الطبقة الرخيصة، حيث تفشل في التحقق وتُصعَّد — أو أسوأ، تفشل في التحقق وتُقبل. يحتاج الموجّه إلى اختباراته الخاصة، ومقاييسه الخاصة (معدل التصعيد، ومعدل قبول الطبقة الرخيصة، والتكلفة لكل مهمة مكتملة)، وعملية مراجعته الخاصة.

القيد ينتقل

غالبًا ما يُصاغ التحوّل نحو الأوزان المفتوحة كقصة تكلفة، وهو كذلك. لكن التغيير الدائم معماري. عندما كان الاستدلال مكلفًا وخارجيًا، كان النموذج هو القيد وكان التنسيق مجرد سباكة. وعندما يصبح الاستدلال رخيصًا ومملوكًا، يصبح النموذج مكوّنًا ويصبح التنسيق هو القيد.

هذا يعيد تأطير أين يجب أن يذهب الجهد الهندسي. يذهب إلى سياسات توجيه تُقاس لا تُفترض. يذهب إلى تحقق يعمل على كل خطوة لأنه يستطيع. يذهب إلى منظومات تقييم سريعة بما يكفي لتعمل باستمرار ودقيقة بما يكفي لالتقاط الانحدارات الخاصة بكل مسار. يذهب إلى نماذج سعة تُبقي الاستغلال مرتفعًا دون تجويع الإنتاج.

لا شيء من هذا مجاني. إنها فاتورة مختلفة، تُدفع بالانتباه التشغيلي بدلًا من الإنفاق لكل رمز، ولا تستحق الدفع إلا عندما يكون الحجم مرتفعًا بما يكفي بحيث تهمّ التكلفة الحدّية فعلًا. بالنسبة للوكلاء منخفضي الحجم، تبقى نقطة النهاية المستضافة هي الجواب الصحيح. الخطأ هو افتراض أن الجواب المستضاف يبقى صحيحًا مع نمو الحجم — واكتشاف مشكلة التوجيه فقط بعد أن تتصلّب المعمارية حول طبقة واحدة.

الفرق التي تستفيد أكثر من اقتصاديات الأوزان المفتوحة ليست تلك التي تملك أكبر وحدات GPU. بل تلك التي كان تنسيقها جيدًا بما يكفي لاستغلال الاستدلال الرخيص، والتي تعاملت مع التوجيه والتحقق والتقييم كهندسة من الدرجة الأولى لا كإعدادات.