أعلنت OpenAI أنها لن تدرب نماذجها بعد الآن على الإنترنت المباشر، مشيرة إلى مخاطر كبيرة. يأتي هذا التغيير بعد توقف أمان استمر 11 يومًا، استؤنف بعده التدريب المتقدم في ظل إصلاح أمني شامل. كما نشرت OpenAI تفاصيل حول كيفية تأمين بيئة تدريب نماذجها المتقدمة، وكشفت عن ثغرة في برمجيات مستخدمة على نطاق واسع.
بالنسبة للفرق التي تدير بنية تحتية للوكلاء، يشير الإفصاحان إلى الاتجاه نفسه. تُعامل بيئة التدريب الآن كسطح هجوم بدلًا من كونها حدودًا موثوقة، وهو ما يتوافق مع نموذج التهديد الذي يطبقه الاستوديو عند تصميم أنظمة الوكلاء التي تحمل بيانات اعتماد، وتستدعي أدوات، وتصل إلى خدمات خارجية. الثغرة في البرمجيات المشتركة إشارة إلى سلسلة التوريد: فالاعتماديات المستخدمة عبر حزمة التقنيات، من طبقات التنسيق إلى مشغلات الأدوات المعزولة، تشكل مسارًا واقعيًا للوصول إلى نشر وكيل.
القراءة العملية للاستوديو هي إبقاء استيعاب البيانات الحية خارج أي حلقة تدريب أو تقييم ما لم يكن عبر وسيط وتصفية، وعزل بيئات التدريب والاستدلال، وتثبيت الاعتماديات المشتركة وتدقيقها بدلًا من تتبع أحدث الإصدارات. ليس واضحًا من التغطية المتاحة أي برمجية متأثرة، أو مدى خطورة الثغرة، أو ما هو العلاج المتاح؛ وينبغي التحقق من هذه التفاصيل قبل اتخاذ أي قرارات بشأن الاعتماديات. كما وقعت OpenAI اتفاقية بحث في سلامة الذكاء الاصطناعي مع منظمة NASK البولندية.