مقاول دفاعي منح وكيل ذكاء اصطناعي شخصي وصولاً إلى نظام آمن في البنتاغون

أفادت WIRED بأن مقاولاً دفاعياً منح وكيل ذكاء اصطناعي شخصي وصولاً إلى نظام آمن في البنتاغون. التفصيل المهم لفرق الهندسة ليس المورّد ولا النموذج، بل نموذج الوصول: وكيل يعمل نيابةً عن مستخدم ورث مدى وصول ذلك المستخدم إلى بنية تحتية لم يكن له سبب لمسّها. عادةً ما يُجهَّز الوكلاء الشخصيون كامتدادات لهوية، ما يعني أن كل إذن يُمنح للشخص يصبح متاحاً للعملية.

تأتي الحادثة إلى جانب حجة MIT Technology Review بأن أفعال الوكيل تحتاج إلى مراقبة في الوقت الفعلي، وموقف SentinelOne بأن الكشف التقليدي على نقاط النهاية يعمل على غير هدى مع وكلاء الذكاء الاصطناعي. كلاهما يشير إلى الفجوة نفسها. أدوات نقاط النهاية تراقب العمليات والملفات التنفيذية؛ لكنها لا تنسب بشكل موثوق سلسلة من استدعاءات API إلى وكيل يعمل على هدف مُفوَّض. بدون هذا الإسناد، ترى المراقبة حركة مرور مصرَّحاً بها ولا تجد أساساً يُذكر لتمييز النية.

اقترح NIST ضمانات لإدارة الهوية والوصول للوكلاء استجابةً لهذه الفئة من المخاطر. الاتجاه العملي هو ضبط نطاق بيانات الاعتماد على الأنظمة والمهام بدلاً من المستخدمين: رموز قصيرة العمر، وأذونات لكل أداة، وحدود صريحة للموارد، وسجل تدقيق يسجّل أي وكيل، وتحت أي تفويض، استدعى ماذا. ما يبقى غير واضح من التغطية هو النظام المحدد المعني، ومدة الوصول، وما إذا كانت أي مراقبة قد التقطت النشاط. هذه الفجوات جديرة بالتتبع، لأنها تحدد ما إذا كان هذا إخفاقاً في الإعداد أم إخفاقاً في الكشف.