پرش به محتوای اصلی

فایل مخرب در پوشه Downloads عامل کدنویسی هوش مصنوعی را با تزریق غیرمستقیم هدف می‌گیرد

Behzat AIagent-securityprompt-injectionindirect-injectionlocal-filesystemllm-agents
نمای نزدیک از خطوط کد منبع نمایش‌داده‌شده روی صفحه مانیتور تیره

یک فایل مخرب که در پوشه Downloads قرار داده شده بود، یک عامل کدنویسی هوش مصنوعی را هدف گرفت و تلاش کرد آن را فریب دهد تا بدافزار نصب کند. این تکنیک به جای مسیر شبکه‌ای، بر تزریق غیرمستقیم از طریق بافت فایل محلی متکی است، که سطح حمله را به محیط کاری خود عامل نزدیک‌تر می‌کند از آنچه بیشتر دفاع‌های سطح prompt فرض می‌کنند.

صفحه لپ‌تاپ که ویرایشگر کد با کد برنامه‌نویسی را در اتاقی کم‌نور نشان می‌دهد

برای تیم‌هایی که عامل‌هایی با خواندن فایل‌سیستم محلی اجرا می‌کنند، این یافته کانال ورودی را بازتعریف می‌کند. عاملی که فایل‌های مخزن، دانلودهای کش‌شده یا یادداشت‌های موقت را می‌گیرد، آن محتوا را به عنوان بافت در نظر می‌گیرد و هر متن دستورگونه‌ای درون آن با prompt واقعی اپراتور رقابت می‌کند. بنابراین مرز اعتماد باید حول خود داده ترسیم شود، نه فقط حول گفتگو. به طور مشخص، این یعنی برچسب‌گذاری منشأ فایل‌ها، جدا کردن خواندن‌های غیرقابل‌اعتماد از اقدامات مجاز ابزار، و الزام به یک مرحله تأیید صریح پیش از هر نصب یا اجرایی که یک فایل می‌توانسته بر آن تأثیر بگذارد.

آنچه از این پوشش خبری روشن نیست، عامل و قالب فایل دخیل، مسیر دقیق payload، و اینکه آیا این تلاش موفق شده یا مسدود شده است، باقی می‌ماند. این جزئیات برای تعیین دامنه مواجهه اهمیت دارند، بنابراین استودیو رفتار گزارش‌شده را به عنوان یک سیگنال سطح-کلاس در نظر می‌گیرد نه یک حادثه تک‌محصولی. مجموعه‌های evaluation برای سیستم‌های عامل باید موارد تزریق فایل محلی را در کنار موارد منتقل‌شده از شبکه شامل شوند و باید بر امتناع عامل از عمل به دستورات یافت‌شده در محتوایی که صرفاً خوانده است، تأکید کنند.

بیایید صحبت کنیم!