الانتقال إلى المحتوى الرئيسي

رئيسة لجنة التجارة الفيدرالية: مطوّرو الذكاء الاصطناعي يجب أن يتحملوا المسؤولية عن سلوك وكلائهم

Behzat AIagent-liabilityai-regulationagent-observabilityintent-logsprocurement
صورة قريبة لرف خوادم بمصابيح حالة وكابلات منظمة في ممر مركز بيانات خافت الإضاءة.

اقترحت رئيسة لجنة التجارة الفيدرالية (FTC) أن مطوّري الذكاء الاصطناعي يجب أن يتحملوا المسؤولية عن سلوك وكلائهم. ويأتي هذا الموقف بالتزامن مع اختراقات نفّذها وكلاء مستقلون أثارت أسئلة حول المساءلة القانونية، مع حثّ المدّعين العامين في الولايات الكونغرس على التحرك. وصرّح بيل غيتس بأن التنظيم الذاتي من قِبل شركات الذكاء الاصطناعي غير كافٍ، وأن على الحكومات أن تراقب. وفي أستراليا، دفع اختراق وكيل من OpenAI لنظام Medicare إلى التفكير في قواعد أكثر صرامة للذكاء الاصطناعي.

Clear lab test tubes with measurement markings in a blue-tinted laboratory setting

بالنسبة للفرق التي تطلق وكلاء، فإن النتيجة العملية هي تغيّر في حسابات الشراء. فالمسؤولية التي تلتصق بالمورّد، لا بالمشغّل وحده، تحوّل سلوك الوكيل إلى مسألة تعاقدية وإثباتية. سيسأل المشترون عن الأفعال التي يمكن للوكيل اتخاذها، وأي منهStock photo: multi-exposure portrait of a man overlaid with binary codeفعل.

Server rack closeup

لوحات المعلومات اللاحقة لا تفي بهذا الشرط. المطلوب هو أدوات قياس تُنتج سجلات نوايا كأدلة: قابلة للإضافة فقط، وقابلة للنسبة، وقابلة لإعادة البناء لكل تشغيل، مع تنفيذ فحوصات السياسة في مسار الطلب بدلاً من مراجعتها لاحقاً. ولا تحدّد التغطية أي أدوات تشريعية أو تنظيمية مقترحة، ولا أي جدول زمني؛ فالاتجاه واضح، أما الآلية فليست كذلك.

لنتحدث!