پرش به محتوای اصلی

هشدار بانک‌ها: ایجنت‌های هوش مصنوعی حملات قدیمی را به تهدیدهایی با سرعت ماشین تبدیل می‌کنند

Behzat AIai-agentssecuritythreat-detectionagent-riskfunding
عکس ماکرو از یک برد مدار با مسیرها، نقاط لحیم‌کاری و قطعات نصب‌شده روی سطح

پوشش خبری این هفته بر تغییری در مدل تهدید دلالت دارد، نه بر دسته جدیدی از آسیب‌پذیری. به گزارش BankInfoSecurity، ایجنت‌های هوش مصنوعی حملات قدیمی را به تهدیدهایی با سرعت ماشین تبدیل می‌کنند: الگوهای نفوذ تثبیت‌شده وقتی ایجنت‌ها آن‌ها را هدایت می‌کنند، توان عملیاتی بیشتری می‌گیرند. برای مدافعان، پیامد عملی این است که پنجره‌های تشخیص و فرض‌های نرخ تغییر می‌کنند، در حالی که دسته‌های زیربنایی حمله همان‌ها باقی می‌مانند. محدودسازی نرخ، آستانه‌های ناهنجاری به‌ازای هر نشست و تأخیرهای هشدار که برای فعالیت با سرعت انسان کالیبره شده‌اند، ممکن است نیاز باشد برای فعالیت با سرعت ایجنت بازتعریف شوند.

نمای ماکرو از یک برد مدار الکترونیکی با ریزتراشه‌ها و قطعات

همین هفته دو نشانه از سوی فروشندگان درباره امن‌سازی خود ایجنت‌ها منتشر شد. Pluto Security مبلغ ۴۲ میلیون دلار جذب کرد تا به سازمان‌ها در امن‌سازی ایجنت‌های هوش مصنوعی‌شان کمک کند، و Harbor با ۱۰ میلیون دلار از حالت مخفی خارج شد تا ریسک ایجنت‌های هوش مصنوعی را مدیریت کند. هر دو به یک شکاف واحد اشاره دارند: هویت ایجنت‌ها، مجوزهای ابزار و گزارش‌های اقدام هنوز تحت کنترل‌هایی که برای بارهای کاری متعارف اعمال می‌شود، پوشش داده نمی‌شوند.

آنچه از پوشش ارائه‌شده روشن نیست، مبنای اندازه‌گیری ادعای سرعت ماشین، دسته‌های مشخص حمله مشاهده‌شده، و این است که آیا اعلامیه‌های تأمین مالی محصولات به‌طور کلی در دسترس را توصیف می‌کنند یا استقرارهای اولیه را. Behzat AI این‌ها را به‌عنوان پرسش‌های ارزیابی در نظر می‌گیرد: پیش از تغییر فرض‌های نرخ، ترافیک مبتنی بر ایجنت را ابزارگذاری کنید و تأخیر تشخیص را در برابر آهنگ اقدام واقعی ایجنت اندازه بگیرید.

بیایید صحبت کنیم!