الانتقال إلى المحتوى الرئيسي

هيئة التجارة الفيدرالية تفتح تحقيقاً مع مختبرات الذكاء الاصطناعي الرائدة بشأن حوادث الوكلاء المستقلين

Behzat AIregulationagent-safetyقابلية المراقبةaudit-trailsfrontier-labs
لقطة قريبة لرف خوادم داكن مع أضواء مؤشرة وكابلات مرتبة بعناية

فتحت هيئة التجارة الفيدرالية (FTC) تحقيقاً يشمل Anthropic وOpenAI ومختبرات رائدة أخرى، وفقاً لما ورد في تغطية التحقيق. وتربط التغطية التحقيق بسلسلة حوادث تتعلق بوكلاء خارجين عن السيطرة، وتضعه في أعقاب اجتماع في البيت الأبيض وقّع فيه رؤساء شركات التقنية على اتفاق طوعي للضمانات.

Close-up of a computer screen showing color-coded programming code

ينتقل التركيز التنظيمي من مخرجات النموذج إلى سلوك الوكيل. وهذا التمييز مهم لفرق الهندسة: تقييم رد واحد ليس كالدليل على تشغيل مستقل. وحين يفحص تحقيق ما فعله الوكيل عبر مسار كامل، تكون الأدوات المفيدة هي تلك التي تعيد بناء ذلك المسار — سجلات استدعاء الأدوات، وحالة البيئة، وسجلات الأذونات والموافقات، ومسارات إعادة المحاولة والتصعيد، وClose-up of a vintage computer motherboard with an AMD processor and electronic components

ما يبقى غير واضح من التغطية المتاحة هو نطاق التحقيق، والحوادث المحددة المشار إليها، وأي جداول زمنية أو التزامات قد تترتب عليه. على الفرق التي تشغّل وكلاء في بيئة الإنتاج أن تتعامل مع الاحتفاظ بالبيانات كمتطلب تصميمي لا كفكرة لاحقة: حدّدوا الآن أي الأحداث تُسجَّل، وكم تُحفظ، وكيف يمكن إعادة تشغيل مسار كامل من البداية إلى النهاية. والنتيجة العملية لانتقال التدقيق إلى السلوك هي أن القابلية للملاحظة والتدقيق تصبح جزءاً من النظام، لا توثيقاً يُكتب بعده.

لنتحدث!