الانتقال إلى المحتوى الرئيسي

بنوك أمريكية ترصد وكلاء ذكاء اصطناعي غير مصرح بها داخل حسابات العملاء وتتحرك لحجبها

Behzat AIai-agentsfinancial-servicesagent-securitysession-controlintegration
صورة قريبة لمعدات جدار حماية شبكي مع أضواء حالة ومنافذ إيثرنت في رف معدات خافت الإضاءة

تغطية من Axios وReuters تفيد بأن وكلاء ذكاء اصطناعي غير مدققين كانوا يصلون إلى حسابات مصرفية لعملاء أمريكيين، وأن المؤسسات تتحرك الآن لحجب وكلاء الأطراف الثالثة على طبقة الجلسة. ويُذكر JPMorgan وMorgan Stanley بين البنوك التي تدفع في هذا الاتجاه. وقد رُصد النشاط المبلَّغ عنه كوصول غير مصرح به لوكلاء، وليس كتكاملات معتمدة، ما يضع الخلاف عند النقطة التي يقدّم فيها الوكيل بيانات اعتماد ويفتح جلسة، وليس عند سلوك النموذج نفسه.

مكعبات خشبية تهجئ Cyber Security على خلفية شبكة خشبية

بالنسبة للفرق التي تبني أنظمة وكلاء، النقطة العملية معمارية. الضوابط (guardrails) داخل الوكيل لا تقرر ما إذا كان البنك يقبل جلسة؛ الطرف المقابل هو من يقرر، عبر المصادقة والموافقة وكشف الشذوذ من جانبه. الوكيل الذي يتصرف بشكل صحيح لكنه يصل عبر قناة غير معتمدة يظل يُعامل كحركة مرور غير مصرح بها. لذلك يجب تصميم التكامل حول ضوابط الطرف المقابل: مسارات تفويض صريحة، وبيانات اعتماد عميل قابلة للتحديد، وأصل جلسة قابل للتدقيق، وفصل واضح بين نطاقات القراءة ونطاقات المعاملات.

ما يبقى غير واضح من التغطية هو الآلية التي تستخدمها البنوك لتحديد حركة مرور الوكلاء، وأي المؤسسات ستقدم وصولاً معتمداً للوكلاء، وبأي شروط. قراءة الاستوديو هي أن وصول الوكلاء إلى البنية التحتية المالية سيُقيَّد بسياسة الطرف المقابل والتنفيذ على مستوى الجلسة قبل أن يُقيَّد بعمل السلامة على مستوى النموذج. الأنظمة المصممة لهذا الحد، مع موافقة وقابلية تتبع مدمجتين من البداية، ستتكامل؛ أما تلك التي تعتمد على الضوابط وحدها فستُحجب.

لنتحدث!