رویترز گزارش میدهد که یک هکر بهتنهایی با استفاده از عاملهای هوش مصنوعی و چند هزار دلار به دهها سایت شرکتی نفوذ کرده است. کوارتز تعداد سایتهای نفوذشده را بیش از ۱۰۰ مورد میداند، و ورج و تامز هاردور جان دیر و شارکنینجا را از جمله سازمانهای آسیبدیده نام میبرند. تامز هاردور این ابزارها را نمونهای از یک پلتفرم متنباز حل مسئله مبتنی بر هوش مصنوعی توصیف میکند. این گزارشها مشخص نمیکنند که کدام آسیبپذیریها بهرهبرداری شدهاند، این کمپین چه مدت ادامه داشته، یا سازمانهای آسیبدیده چگونه واکنش نشان دادهاند؛ بنابراین این جزئیات همچنان نامشخص است.

نکته عملیاتی این است که ناوگانهای عامل اکنون یک ابزار تهاجمی هستند، نه فقط تدافعی. یک اپراتور واحد میتواند شناسایی، کاوش و بهرهبرداری را بهطور همزمان روی اهداف متعدد موازیسازی کند، با هزینه و سرعتی که نفوذ با گام انسانی به آن نمیرسد. مدافعانی که آستانههای تشخیص و محدودیتهای نرخ را بر اساس فرضهای زمانبندی انسانی تنظیم میکنند، دقیقاً در معرض همین الگو قرار میگیرند.
برای تیمهایی که عاملها را در محیط عملیاتی اجرا میکنند، کنترلهای عملی عبارتاند از ابزارگذاری رفتار خروجی و نرخ: ثبت حجم درخواستهای خروجی و تنوع مقاصد بهازای هر عامل، هشدار روی fan-out که از خط پایه فراتر میرود، و محدودسازی همزمانی در لایه ارکستراسیون بهجای لایه اپلیکیشن. همان تلهمتری که یک ازدحام عامل خارجی را تشخیص میدهد، یک عامل داخلی بهخطرافتاده را نیز محدود میکند. Behzat AI مشاهدهپذیری خروجی و نرخ را بهعنوان یک الزام پایه برای هر سیستم عاملی که با اینترنت عمومی در تعامل است در نظر میگیرد.
