استغنت OpenAI عن ثلاثة باحثين في مجال السلامة على خلفية مزاعم سوء التعامل مع معلومات حساسة. كما أخطَرت الشركة أكثر من 100 منظمة بشأن مشكلة التعامل مع البيانات، ما يشير إلى أن المسألة تجاوزت حدودها الداخلية.
تأتي هذه الإقالات في لحظة يشتد فيها التدقيق على ممارسات السلامة في مجال الذكاء الاصطناعي عبر القطاع. إذ يضغط باحثون في مختبرات الطليعة من أجل صوت أكبر في قرارات السلامة، ويقع رحيل موظفي السلامة بسبب أسئلة تتعلق بالتع
edia/robot-arm-circuit-macro-9afb95-17fb5b.jpg)
بالنسبة للفرق التي تبني أنظمة الوكيل (agent) وتقيّمها، فإن التفصيل التشغيلي يهم أكثر من العنوان الرئيسي. تعتمد مراجعة السلامة على التدفق الحر لمعلومات الحوادث الداخلية: الحوادث الوشيكة، واستدعاءات الأدوات (tool calls) الشاذة، وتغيرات الحالة غير المتوقعة في الوكلاء طويلة التشغيل. وحيث يُقيَّد هذا التدفق، أو حيث يُستبعد الموظفون الذين يوثقونه، تضيق قاعدة الأدلة المتاحة للمراجع الخارجي. وعندها يقتصر ما يمكن التحقق منه بشأن سلوك الوكيل المنشور على ما تختار الجهة الموردة نشره، ويصبح التكرار المستقل لنتائج الحوادث أكثر صعوبة.
تبقى عدة نقاط غير واضحة من التغطية: الطبيعة المحددة للمعلومات المعنية، وما إذا كانت المغادرات طوعية، وما قيل للمنظمات المُخطَرة، إن قيل لها شيء. ولم يُؤكَّد أي جدول زمني.