پرش به محتوای اصلی

از ایجنت‌های هوش مصنوعی خودمختار برای نفوذ به بیش از ۱٬۲۰۰ وب‌سایت شرکتی استفاده شده است

Behzat AIagent-securityautonomous-agentscredential-hygieneegress-controlthreat-landscape
نمای نزدیک از یک رک سرور با کابل‌های شبکه، چراغ‌های نشانگر و پنل‌های فلزی در راهروی کم‌نور یک مرکز داده

گزارش‌ها از استفاده از ایجنت‌های هوش مصنوعی خودمختار برای نفوذ به وب‌سایت‌های شرکتی خبر می‌دهند و پوشش خبری به بیش از ۱٬۲۰۰ سایت هدف‌قرارگرفته اشاره می‌کند. گزارش جداگانه‌ای نیز از یک ایجنت هوش مصنوعی مرتبط با چین پشت حملات سایبری در ژاپن خبر داد. در مجموع، این پوشش خبری این کمپین‌ها را بخشی از موج رو به رشد حملاتی می‌داند که با مدل‌های قوی‌تر ممکن شده‌اند. استودیو خاطرنشان می‌کند که سازوکارهای بنیادین نفوذ در گزارش‌های ارائه‌شده به‌طور کامل تشریح نشده است؛ آنچه بیان شده، مقیاس، استفاده از ایجنت‌های خودمختار و روند توانمندی مدل‌ها در پس آن‌هاست.

نمای نزدیک از رک‌های سرور روشن در یک مرکز داده، نمایش زیرساخت فناوری مدرن

برای مدافعان، خوانش مفید ماجرا درباره هم‌راستایی مدل نیست. ایجنتی که می‌تواند مرورگر را هدایت کند، یک نشست را نگه دارد و در میان اهداف متعدد عمل کند، ضعف‌های معمولی را به اهرم فشار تبدیل می‌کند: اعتبارنامه‌های بازاستفاده‌شده یا دارای امتیاز بیش از حد، ترافیک خروجی نامحدود، نشست‌های دیرپا و توکن‌هایی که مدت‌ها پس از پایان وظیفه‌شان معتبر می‌مانند. هر یک از این‌ها کنترلی است که سازمان مدافع از پیش در اختیار دارد و هر یک بدون دسترسی به مدل مهاجم قابل آزمون است.

دستور کار عملی عبارت است از بهداشت و چرخش اعتبارنامه‌ها، کنترل خروجی که محدود می‌کند ایجنت به کجا می‌تواند دسترسی داشته باشد، و دامنه نشست که محدود می‌کند یک بافت به‌خطرافتاده واحد به چه چیزهایی می‌تواند دست بزند. استودیو این‌ها را معیارهای ارزیابی برای سیستم‌های ایجنتی می‌داند: شعاع اثر یک نشست را تعریف کنید، آن را در تست‌ها تصریح کنید و انحراف‌ها را پایش کنید. گزارش‌ها مشخص نمی‌کنند کدام کنترل‌های مشخص می‌توانستند مانع این نفوذها شوند، بنابراین استودیو آن‌ها را به‌عنوان پیش‌فرض‌های قابل دفاع و نه یک اصلاح تأییدشده ارائه می‌کند.

بیایید صحبت کنیم!