پرش به محتوای اصلی

حوادث امنیتی ایجنت‌ها روی هم انبار می‌شود: سرقت ۶۰۰ هزار کارت، حرکت جانبی، اجراهای بدون نظارت

Behzat AIagent-securityai-agentsruntime-observabilitylateral-movementthreat-model
نمای نزدیک از رک سرور تیره با LEDهای وضعیت و کابل‌کشی شبکه

پوشش خبری اخیر به تغییری در نحوه حمله و سوءاستفاده از سیستم‌های ایجنت اشاره دارد. بر اساس گزارش qz.com، یک مهاجم چینی‌زبان از ایجنت‌های هوش مصنوعی برای سرقت ۶۰۰٬۰۰۰ کارت اعتباری استفاده کرده است. جدا از این، The Hacker News گزارش می‌دهد که از ایجنت‌ها برای بازنویسی پلی‌بوک‌های حرکت جانبی درون شبکه‌های به‌خطرافتاده استفاده می‌شود، و CIO Dive به یافته‌ای اشاره می‌کند که یک‌چهارم ایجنت‌ها بدون نظارت اجرا می‌شوند و ریسک عملیاتی ایجاد می‌کنند. پژوهشگران همچنین بدافزاری را توصیف می‌کنند که در آن پنلی از LLMها مرحله بعدی حمله را انتخاب می‌کند، چنان‌که Help Net Security و inc.com گزارش داده‌اند.

Silhouette of a large satellite dish against a colorful sunset sky

در مجموع، این‌ها حوادث عملیاتی هستند، نه نمایش‌های prompt injection. رشته مشترک این است که ایجنت‌ها با اعتبارنامه‌های واقعی و دسترسی به ابزار عمل می‌کنند و تصمیم‌هایشان همیشه ثبت یا محدود نمی‌شود. بنابراین شناسایی و مهار باید بخشی از زمان اجرا باشد: ثبت هر اقدام، اعتبارنامه‌های محدود به دامنه، و محدودیت بر آنچه ایجنت می‌تواند انجBlue and white abstract liquid metal texture with fluid reflections and smooth waves

آنچه از پوشش ارائه‌شده روشن نیست، ابزار دقیق، نسخه‌های مدل و الگوهای استقرار پشت هر حادثه است، و این‌که رقم یک‌چهارم بدون نظارت چگونه اندازه‌گیری شده است. Behzat AI این گزارش‌ها را شاهدی می‌داند بر این‌که مشاهده‌پذیری ایجنت و guardrailهای زمان اجرا اکنون الزامات پایه هستند، نه افزودنی.

بیایید صحبت کنیم!