الانتقال إلى المحتوى الرئيسي

Anthropic تمنح جهة رقابة خارجية معنية بالذكاء الاصطناعي صلاحيات وصول بمستوى الموظفين

Behzat AIai-governanceagent-observabilityexternal-auditllm-agentsproduction-logging
لقطة قريبة لخزانة خوادم بوحدات متراكمة وكابلات وأضواء حالة في مركز بيانات خافت الإضاءة

منحت Anthropic جهة رقابة خارجية معنية بالذكاء الاصطناعي صلاحيات وصول مماثلة لصلاحيات موظفيها، وفقًا لـ Ars Technica. وتُقدَّم هذه الترتيبات بوصفها نموذجًا جديدًا للرقابة الخارجية على سلوك النماذج الحدودية والـ agents، إذ تنقل الاستعراض من الملخصات الدورية إلى الفحص المباشر للأنظمة الحيّة. وفي اليوم نفسه، أفادت TechCrunch بأن Anthropic خصّصت 5% من أسهمها لصندوق منفعة عامة.

لقطة قريبة لخزائن خوادم مضيئة في مركز بيانات، تُظهر بنية تحتية تقنية حديثة

بالنسبة للفرق التي تنشر الـ agents، تتعلق الإشارة بالتجهيز instrumentation لا بالسياسات. فالرقابة على مستوى الموظفين تعني أن المراجعين يستطيعون الوصول إلى الموارد نفسها التي يستخدمها الموظفون: الـ traces، وسجلات tool call، وسياق retrieval، ودورات evaluation، وإعدادات النشر. والأنظمة التي تسجّل المخرجات النهائية فقط سيكون من الصعب تدقيقها في ظل هذا النموذج. وتترتب على ذلك متطلبات عملية: تسجيل مُهيكل وغير قابل للتغيير لكل استدعاء أداة ولكل استجابة نموذج؛ ومعرّفات ربط تربط طلب المستخدم بمسار الـ agent الكامل؛ ومدة احتفاظ كافية لدعم الاستعراض بأثر رجعي؛ وضوابط وصول تتيح لطرف خارجي قراءة بيانات الإنتاج دون صلاحيات كتابة أو كشف بيانات مستأجرين آخرين.

ما يبقى غير واضح هو نطاق الوصول، والضوابط التقنية التي تفصل استعراض جهة الرقابة عن التغييرات التشغيلية، وما إذا كانت ترتيبات مماثلة ستمتد إلى عمليات نشر الـ agents من أطراف ثالثة. ويقرأ الاستوديو هذه الخطوة بوصفها دافعًا إلى التعامل مع قابلية التدقيق كقيد تصميمي من أول sprint، لا كطبقة تقارير تُضاف لاحقًا.

لنتحدث!