الانتقال إلى المحتوى الرئيسي

رئيس مايكروسوفت: الذكاء الاصطناعي يخضع لقواعد أقل من الحليب، ويدعو إلى قانون ملزم للسلامة

Behzat AIai-governanceagent-safetyregulationevaluationpolicy
لقطة قريبة لرف خوادم في مركز بيانات مع أضواء مؤشرة وكابلات شبكة مرتبة بعناية.

قال رئيس مايكروسوفت براد سميث إن الذكاء الاصطناعي أقل تنظيماً من الحليب والغسالات، وذهب إلى أن تعهدات السلامة الطوعية للذكاء الاصطناعي لا تكفي، دافعاً نحو قواعد عالمية. وتضع هذه التصريحات أكبر مورّد على الإطلاق في موقف أن التصديق الذاتي بديل غير كافٍ عن الالتزامات القابلة للإنفاذ.

رف خوادم بشتى الأسلاك يدير الوصول إلى مورد مركز بيانات مركزي

بالنسبة للفرق التي تبني أنظمة الوكلاء، فإن التبعات الحوكمية مباشرة. فحيث تكون الالتزامات الطوعية هي البديل الحالي لقواعد سلامة الوكلاء، فإن برنامجاً يعتمد على التصديق الذاتي وحده يحمل مخاطر غير محددة كمياً. تشير التغطية إلى خمسة مقترحات لقواعد سلامة الذكاء الاصطناعي وتستشهد باختبارات السلامة ومفاتيح الإيقاف في النقاش الأوسع؛ إلا أن المحتوى المحدد لتلك المقترحات وحالتها غير واضحين من المواد المتاحة.

يتعامل Behzat AI مع الحوكمة كسطح هندسي: أُطر التقييم للوكلاء المستخدمين للأدوات، وقيود وقت التشغيل ومسارات الإيقاف، وأدلة على صمود الضوابط عند الفشل بدلاً من مجرد التأكيد على وجودها. وإذا وصلت القواعد الملزمة، فإن الفرق التي تنتج بالفعل أدلة قابلة للاختبار على سلوك الوكلاء ستتكيف أسرع من تلك التي تعتمد على التصريحات. وموقف الاستوديو هو أن ادعاءات السلامة ينبغي أن تكون نتاجات قابلة لإعادة الإنتاج، لا بيانات نوايا.

لنتحدث!