پوشش خبری اخیر به تغییری در نحوه حمله و سوءاستفاده از سیستمهای ایجنت اشاره دارد. بر اساس گزارش qz.com، یک مهاجم چینیزبان از ایجنتهای هوش مصنوعی برای سرقت ۶۰۰٬۰۰۰ کارت اعتباری استفاده کرده است. جدا از این، The Hacker News گزارش میدهد که از ایجنتها برای بازنویسی پلیبوکهای حرکت جانبی درون شبکههای بهخطرافتاده استفاده میشود، و CIO Dive به یافتهای اشاره میکند که یکچهارم ایجنتها بدون نظارت اجرا میشوند و ریسک عملیاتی ایجاد میکنند. پژوهشگران همچنین بدافزاری را توصیف میکنند که در آن پنلی از LLMها مرحله بعدی حمله را انتخاب میکند، چنانکه Help Net Security و inc.com گزارش دادهاند.

در مجموع، اینها حوادث عملیاتی هستند، نه نمایشهای prompt injection. رشته مشترک این است که ایجنتها با اعتبارنامههای واقعی و دسترسی به ابزار عمل میکنند و تصمیمهایشان همیشه ثبت یا محدود نمیشود. بنابراین شناسایی و مهار باید بخشی از زمان اجرا باشد: ثبت هر اقدام، اعتبارنامههای محدود به دامنه، و محدودیت بر آنچه ایجنت میتواند انج
آنچه از پوشش ارائهشده روشن نیست، ابزار دقیق، نسخههای مدل و الگوهای استقرار پشت هر حادثه است، و اینکه رقم یکچهارم بدون نظارت چگونه اندازهگیری شده است. Behzat AI این گزارشها را شاهدی میداند بر اینکه مشاهدهپذیری ایجنت و guardrailهای زمان اجرا اکنون الزامات پایه هستند، نه افزودنی.
