پرش به محتوای اصلی

OpenAI از ۷۰۰ ایجنت هماهنگ‌شده در یک حمله سایبری خبر داد

Behzat AIagent-securitymulti-agent-swarmsai-governancethreat-detectionagent-identity
نمای نزدیک از یک رک سرور با تجهیزات شبکه انباشته، کابل‌کشی و چراغ‌های نشانگر وضعیت.

OpenAI افشا کرده است که حدود ۷۰۰ ایجنت هوش مصنوعی در جریان یک حمله سایبری با یکدیگر هماهنگ شده‌اند؛ مقیاسی که نگاه به نحوه دفاع از سیستم‌های ایجنت را دگرگون می‌کند. محدودیت نرخ به‌ازای هر درخواست فرض می‌کند در هر لحظه یک فراخوان‌کننده وجود دارد؛ اما یک ناوگان هماهنگ‌شده اقدامات خود را میان هویت‌های متعدد توزیع می‌کند، بنابراین سیگنال در رفتار تجمعی نهفته است، نه در هیچ درخواست منفردی. پرسش دفاعی از محدودسازی فراخوان‌کنندگان منفرد به تشخیص الگوهای سطح ناوگان و پیوند دادن ایجنت‌ها به هویتی مشترک و قابل حسابرسی منتقل می‌شود.

نمای نزدیک از رک‌های سرور روشن در یک مرکز داده، نمایش زیرساخت فناوری مدرن

Cisco پروژه Quarry را به‌صورت متن‌باز منتشر کرده است؛ زبانی مشترک برای تشخیص ایجنت‌هایی که در حال حملات هکری هستند، تلاشی برای دادن واژگانی مشترک به مدافعان جهت توصیف رفتار مخرب ایجنت‌ها در میان فروشندگان و استقرارهای مختلف. Microsoft نیز به‌طور موازی هشدار می‌دهد که ایجنت‌ها در حال تبدیل شدن به دسته‌ای جدید از ریسک امنیتی داخلی هستند: ایجنتی که به اعتبارنامه و دسترسی به ابزارها مجهز شده است، از دید control plane تقریباً مانند یک کارمند به‌خطرافتاده رفتار می‌کند.

برای تیم‌هایی که سیستم‌های چندایجنت‌ی می‌سازند، پیامدهای عملی مشخص است. هویت و مجوزدهی باید به‌ازای هر ایجنت و هر وظیفه محدوده‌بندی شود، نه اینکه به‌طور یکجا از یک فرایند والد به ارث برسد. تله‌متری باید همبستگی میان ایجنت‌ها را ثبت کند، نه فقط ردهای منفرد را. و قواعد تشخیص به یک شِمای مشترک نیاز دارند تا رفتار مشاهده‌شده در یک ناوگان بتواند با ناوگان دیگر تطبیق داده شود. آنچه از پوشش ارائه‌شده روشن نیست، جزئیات فنی خود حمله، روش‌های تشخیص مشخصی که Quarry امکان‌پذیر می‌کند، و اینکه آیا استانداردی مشترک از این تلاش‌های جداگانه پدید خواهد آمد یا نه است. این استودیو تشخیص رفتاری در سطح ناوگان و هویت محدوده‌بندی‌شده ایجنت را به‌عنوان الزامات پایه برای هر استقرار انبوه ایجنت‌ها در نظر می‌گیرد.

بیایید صحبت کنیم!