الانتقال إلى المحتوى الرئيسي

Nvidia تطلق منصة OpenShell لسلامة الوكلاء مع احتواء وقت التشغيل

Behzat AIagent-safetyruntime-containmentnvidiamulti-agent-systemstooling
لقطة قريبة لرف خوادم داكن مع أضواء حالة وامضة وكابلات شبكة.

أطلقت Nvidia منصة OpenShell، وهي منصة مفتوحة المصدر لسلامة الوكلاء مصممة لاحتواء الوكلاء المارقين في غضون أجزاء من الثانية. يغطي البرنامج دورة حياة الوكيل من الاختبار حتى النشر، ويضيف مراقبة مستمرة لأحمال عمل الوكلاء، مما يجعل احتواء وقت التشغيل عنصرًا أوليًا يوفره المورّد بدلًا من أن تجمّعه كل فرقة من الصفر.

Wide view of an industrial electrical substation with power lines and towers outdoors

وتذكر Nvidia أن البرنامج كان يمكن أن يوقف حادثة Hugging Face، وتشير إلى حوادث الوكلاء المقلقة الأخيرة كدافع. وتعمل Gecko Robotics مع Nvidia لإضافة أمان الوكلاء والتحكم بها إلى أنظمتها، مما يشير إلى تبنٍّ مبكر يتجاوز منظومة Nvidia نفسهAerial view of freight trains in a railway yard showing industrial logisticsc0605.jpg) Server rack closeup

بالنسبة للفرق التي تنشر أنظمة متعددة الخطوات، التحول العملي هو الحد الفاصل بين البناء والشراء. ينتقل الاحتواء وسلوك مفتاح الإيقاف ومراقبة أحمال العمل من الهندسة المخصصة إلى تبعية، تاركًا سياسة الوكيل وأذونات الأدوات والتقييم والضوابط الخاصة بالمجال كعمل يبقى داخليًا. ما لم يتضح بعد من التغطية المتاحة هو كيفية تكامل OpenShell مع بيئات تشغيل غير تابعة لـ Nvidia، وآلية الاحتواء الدقيقة، وحوادث الوكلاء المشار إليها بخلاف حالة Hugging Face.

لنتحدث!