الانتقال إلى المحتوى الرئيسي

وكلاء الذكاء الاصطناعي في حلقة التصيّد: التفويض يوسّع سطح الهندسة الاجتماعية

Behzat AIagentic-aiphishingsecurityllm-agentsdelegation
لقطة قريبة لكابلات شبكة مجمّعة وموصلات بتركيز سطحي، تُظهر منافذ موصولة وأسلاكًا موسومة.

تقرير Futurism يشير إلى أن استخدام وكيل ذكاء اصطناعي يجعل المستخدمين أكثر عرضة لرسائل التصيّد. الآلية بنيوية وليست عرضية: فبمجرد أن يفرز الوكيل البريد ويتصرف نيابة عن المستخدم، تتوقف الرسالة الواردة عن كونها شيئًا يُقرأ وتصبح قناة أوامر — وتصل وهي تحمل سلطة المستخدم. الطُعم الذي كان سيفشل أمام إنسان حذر يمكن أن ينجح أمام عملية مفوّضة مبنية على التصرف بناءً على ما تتلقاه.

لقطة قريبة لموصلات كابلات الشبكة مضاءة بإضاءة ملونة

تأتي هذه النتيجة في وقت تُدمج فيه المؤسسات مساعدي الوكلاء في أدوات صندوق البريد وسير العمل، ما ينقل التعرض من الحذر الفردي إلى تصميم النظام. الضوابط المعنية تقع عند الحد الفاصل بين المحتوى غير الموثوق والإجراء ذي الصلاحية: فحوص المصدر على البريد الوارد، وتحديد نطاق صريح لما يجوز للوكيل فعله دون تأكيد، والفصل بين قراءة الرسالة وتنفيذ أي شيء تطلبه. المحتوى القادم من خارج حدود الثقة ينبغي التعامل معه كبيانات لا كنية، وأي إجراء ذي آثار جانبية ينبغي أن يتطلب نقطة تحقق لا يستطيع المرسل الوصول إليها.

ما لا تثبته التغطية المتاحة هو حجم الأثر، أو الظروف التي ترتفع فيها قابلية التأثر، أو أي تصاميم وكلاء جرى اختبارها. هذه الفجوات تهم كل من يقرر مقدار الاستقلالية التي يمنحها لمساعد يقرأ البريد. وإلى أن تتوفر أدلة أوضح، فإن موقف الاستوديو هو التعامل مع الوصول المفوّض إلى صندوق البريد كتكامل ذي صلاحيات، وتقييمه مقابل رسائل عدائية قبل توسيع أذوناته.

لنتحدث!