الانتقال إلى المحتوى الرئيسي

هجوم في البرية يستغل ثقة الوكيل في مستندات Markdown

Behzat AIprompt-injectionagent-securitymarkdowndocument-ingestionllm-agents
لقطة قريبة من رف خوادم مع كابلات وأضواء حالة في مركز بيانات

يُفيد Dark Reading بوقوع هجوم في البرية يستغل ثقة وكلاء الذكاء الاصطناعي في مستندات Markdown. ويصف تقرير منفصل وكلاء البرمجة بالذكاء الاصطناعي وهم يتبعون تعليمات خبيثة مزروعة في مجلد التنزيلات. في كلتا الحالتين يصل الحمولة عبر محتوى يعامله الوكيل كبيانات، ومسار الهجوم هو استيعاب الملفات والمستندات لا التوجيه المباشر من المستخدم. هذا حقن أوامر غير مباشر، ويُستخدم خارج ظروف المختبر.

Woman using a laptop in a server room with blue lighting

النتيجة التشغيلية هي أن كل مسار استيعاب هو حدّ صلاحيات. إذا أمكن عرض Markdown أو تحليله إلى سياق الوكيل، فإن المستند قادر على حمل تعليمات، ومرشّح الأوامر ليس سياسة. موقف الاستوديو هو أن الاستيعاب يحتاج إلى سياسة صريحة قابلة للاختبار: أي الصيغ تُحلَّل، وأي الحقول تُعامَل كغير موثوقة، وأين يُعقَّم المحتوى أو يُجرَّد، وأي الأدوات يجوز للوكيل استدعاؤها بناءً على نص مستمد من مستند. هذه القرارات تنتمي إلى تصميم النظام وإلى مجموعة التقييم، لا إلى جملة في أمر النظام.

تُثبت التغطية فئة الهجوم وناقل الاستيعاب؛ لكنها لا تُثبت مدى الانتشار ولا البائعين المتأثرين ولا المجموعة الكاملة من الصيغ المستغَلة. ينبغي للفرق التي تشغّل استيعاب المستندات أن تعتبر هذه الفجوة سببًا لأدوات القياس والاختبار لمساراتها الخاصة بدلًا من انتظار صورة عامة مكتملة.

لنتحدث!