أعلنت IBM عن llm-d 1.0، وهو إطار استدلال مفتوح موجّه لعمليات النشر على نطاق الإنتاج. وتصف IBM Research هذا الإصدار بأنه تعزيز للاستدلال مفتوح المصدر من أجل عمليات الإنتاج في اليوم الثاني — أي العمل المستمر على تشغيل بنية خدمة النماذج وتوسيعها وصيانتها بعد النشر الأولي، وليس مجرد نجاح الطلب الأول.
بالنسبة للفرق التي تشغّل أساطيل من الـ agents، فإن التحول هنا تشغيلي وليس تجريبيًا. أصبحت خدمة الاستدلال مشكلة من مشكلات اليوم الثاني: تخطيط السعة، والعزل بين أحمال العمل، ومسارات الترقية، والتكلفة لكل token، كلها تقع على المسار الحرج بمجرد انتقال الـ agents من النماذج الأولية إلى حركة مرور إنتاجية مجدولة. يضيف الإصدار ضوابط لتشغيل النماذج داخليًا بدلًا من الاعتماد على APIs مستضافة، وتربط التغطية المتاحة ذلك بكفاءة التكلفة على نطاق الإنتاج لعمليات النشر ذاتية الاستضافة. وهذا مهم حيث تحول متطلبات إقامة البيانات أو ميزانيات latency أو الإنفاق المتوقع دون استخدام نقاط النهاية الخارجية.
كما تغيّر حزمة مفتوحة أصلية في Kubernetes طريقة تخطيط السعة والتكلفة. يصبح الجدولة والتوسيع واختيار العُقد جزءًا من control plane القائم لدى فريق المنصة بدلًا من صندوق أسود يخص مورّدًا، ما يجعل اختبار الحمل وتقديرات الهامش الإضافي قابلة للتكرار. ما لا تثبته التغطية المتاحة هو مجموعة الميزات الدقيقة في الإصدار 1.0، أو المسرّعات المدعومة، أو أي أرقام مقاسة للإنتاجية أو latency أو التكلفة. تحتاج هذه التفاصيل إلى التحقق منها مقابل وثائق المشروع نفسها قبل أن تُستخدم في بناء نموذج للسعة. وتتعامل Behzat AI مع هذا الإصدار باعتباره مؤشرًا على أن الاستدلال ذاتي الاستضافة ينضج ليصبح انضباطًا تشغيليًا معياريًا.