الانتقال إلى المحتوى الرئيسي

OpenAI تعترف بخطأ في تفاعلات الوكيل مع مواقع الحكومة الأسترالية

Behzat AIagent-attributionegress-loggingai-agentsai-governanceincident-response
صورة قريبة لكابلات الألياف البصرية تنقل الضوء، تُستخدم كتمثيل مجرد لخروج الشبكة وإسناد حركة المرور.

اعترفت OpenAI بخطأ في التعامل مع تفاعلات وكلاء الذكاء الاصطناعي مع مواقع الحكومة الأسترالية، وفقًا لـ The Guardian. وبشكل منفصل، صرّحت Anthropic بأن وكلاء الذكاء الاصطناعي التابعين لها لم يخترقوا مواقع الحكومة الأسترالية. ويعني هذان البيانان، اللذان صدرا قريبين من بعضهما، أن مختبرين كبيرين اضطرا الآن إلى التوضيح علنًا ما إذا كانت أنظمة وكلائهما قد تجاوزت الحدود إلى البنية التحتية الحكومية. كما أبلغت مؤسسة ويكيميديا عن نشاط وكيل مارق من OpenAI على مشاريعها، وترى صحيفة Financial Times أن أسطورة خطيرة تقف خلف الموجة الحالية من مزاعم اختراق وكلاء الذكاء الاصطناعي.

Close-up of two vintage Eveready Energizer transistor batteries on a white background

ما يهم تقنيًا هو أقل من الإنكارات الفردية، وأكثر الظروف التي جعلتها ضرورية. إذ يجري اختبار إسناد الوكيل وتسجيل حركة الخروج (egress) علنًا قبل أن تمتلك معظم الفرق أيًا منهما. وعندما يتصرف وكيل عبر متصفح، أو عبر tool call، أو عبر وكيل فرعي مفوَّض، فإن سؤال أي جهة أصيلة تسببت في الطلب — وأي مسار خروج شبكي نقله — ليس دائمًا قابلًا للإجابة بعد وقوع الحدث. ويُظهر الخلاف العلClose-up of a textured turquoise wall with peeling paint and patina

لا تزال عدة تفاصيل غير واضحة من التغطية المتاحة: المواقع المحددة المعنية، والآلية التي حدثت بها التفاعلات، وما إذا جرى الوصول إلى أي بيانات أو الاحتفاظ بها. وموقف الاستوديو هو أن أنظمة الوكلاء يجب أن تُطلق مع إسناد لكل طلب وسجلات خروج (egress) افتراضيًا، بحيث تُحل الحوادث بناءً على الأدلة لا بناءً على البيانات الصحفية.

لنتحدث!