الانتقال إلى المحتوى الرئيسي

اختبار Kubernetes كطبقة جدولة وعزل لوكلاء الذكاء الاصطناعي

Behzat AIkubernetesagent-isolationsandboxinginference-servingالتنسيق
لقطة قريبة لخزانة خوادم تُظهر كابلات الشبكة وأضواء المؤشرات على عتاد مثبت في الخزانة

فحص The New Stack ما إذا كان Kubernetes جاهزًا لجدولة وكلاء الذكاء الاصطناعي وعزلهم، مع تأطير طبقة التنسيق باعتبارها الموضع الذي تُفرض فيه حدود الوكلاء أو يُسمح لها بالتسرب. والسؤال عملي بالنسبة للفرق التي تشغّل الاستدلال والأدوات على العناقيد بالفعل: فالوكلاء يحتفظون بالحالة، ويستدعون نقاط نهاية خارجية، ويولّدون عمليات فرعية بطرق لا تفعلها أحمال العمل الموجهة نحو الخدمات، لذا فإن العناصر الأولية التي تناسب نشرًا عديم الحالة لا تنطبق انطباقًا نظيفًا على دورة حياة الوكيل.

لقطة قريبة لخزائن خوادم مضاءة في مركز بيانات، تُظهر بنية تحتية تقنية حديثة

تتبع التغطية نتائج الفريق الأحمر في OpenAI بشأن الهروب من بيئات العزل والقنوات العابرة لبيئات العزل، وهو ما يضع حد العزل بدلًا من المجدول في مركز النقاش. فإذا كان بالإمكان مغادرة بيئة عزل، أو إذا كان بإمكان بيئتي عزل التواصل عبر قناة جانبية، فإن سياسة الخروج وفصل مساحات الأسماء تصبح جزءًا من نموذج التهديد الخاص بالوكيل، لا فكرة لاحقة تُضبط وقت النشر. وتشير تقارير ذات صلة إلى أن llm-d 1.0 يدفع الاستدلال مفتوح المصدر نحو نطاق الإنتاج، وهو ما يطرح السؤال نفسه من جهة الخدمة: فمع تحوّل الاستدلال إلى حمل عمل قياسي على العنقود، يتعين على الضوابط المحيطة أن تواكب ذلك.

ما يبقى غير واضح من التغطية المتاحة هو أي آليات Kubernetes المحددة التي يُقترح أو يُقيَّم استخدامها لعزل الوكلاء، وما إذا كانت أي من نتائج الفريق الأحمر تتطابق مع أخطاء إعداد على مستوى العنقود. تتعامل Behzat AI مع هذه الحدود كمدخلات تصميمية لأنظمة الوكلاء لا كتفاصيل نشر.

المصادر: تغطية The New Stack، تقارير ذات صلة.

لنتحدث!