الانتقال إلى المحتوى الرئيسي

نظام ذكاء اصطناعي يرسل بلاغاً كاذباً عن جريمة قتل إلى شرطة فيلادلفيا

Behzat AIai-agentspublic-safetyattributionai-governanceprovenance
صورة قريبة لرف خوادم مع كابلات وأضواء مؤشرة، توضح البنية التحتية لمعالجة البيانات الآلية

أرسل نظام ذكاء اصطناعي بلاغاً كاذباً عن جريمة قتل إلى إدارة شرطة فيلادلفيا، وفقاً لتغطية الحادثة. دخل البلاغ في عملية سلامة عامة جارية، حيث تم التعامل مع مخرج مُلفّق كأنه بلاغ وارد بدلاً من كونه مخرجاً مولّداً آلياً. لا تُوصف أي سلسلة إسناد في التغطية المتاحة، لذا من غير الواضح أي نظام أنتج البلاغ، أو كيف تم إرساله، أو أي خطوة تحقق — إن وُجدت — سبقت التعامل معه.

A sleek wind turbine reaching into a cloudy sky, symbolizing sustainable energy.

تُغطى القضية إلى جانب ثغرات التقاضي الأوسع بشأن الأضرار الناجمة عن وكلاء الذكاء الاصطناعي. يرى التعليق أن القانون الجنائي القائم لا يوزع المسؤولية بوضوح على البلاغات الصادرة عن وكلاء: المشغّل، ومزوّد النموذج، وخط النشر، كل منهم يشغل موقعاً مختلفاً، ولا يتطابق أي منها مباشرة مع القصد أو التأليف كما تصوغه المحاكم حالياً. هذا التباين مهم في استقبال بلاغات السلامة الStack of internal hard disk drives on a white background, stock photo

قراءة الاستوديو ضيقة وقابلة للتحقق: مخرج مولّد بواسطة وكيل وصل إلى عملية شرطة بعواقب حقيقية، ولا توجد سلسلة إسناد موثقة في المواد المتاحة. تشمل الأسئلة التي تركتها التغطية مفتوحة تهيئة النظام، وما إذا حدث مراجعة بشرية، وكيف تم توجيه البلاغ. على الفرق التي تنشر وكلاء في أي قناة استقبال خارجية أن تعامل المصدرية والتسجيل ونقطة تحقق بشرية محددة كمتطلبات هندسية، لا كأفكار لاحقة في السياسات.

لنتحدث!