پرش به محتوای اصلی

مایکروسافت عامل‌های هوش مصنوعی را تهدید داخلی می‌داند و به محدودیت‌های اعتماد به مدل‌های فرانتیر استناد می‌کند

Behzat AIagent-securityinsider-threatleast-privilegeruntime-monitoringmicrosoft
نمای نزدیک از یک رک سرور با پورت‌های شبکه، کابل‌کشی و چراغ‌های نشانگر وضعیت در یک مرکز داده

مایکروسافت راهنمایی منتشر کرده است که عامل‌های هوش مصنوعی را تهدید داخلی توصیف می‌کند، بر این مبنا که نمی‌توان به مدل‌های فرانتیر کاملاً اعتماد کرد. این چارچوب‌بندی ریسک عامل را از محیط پیرامونی به سمت اصل داخلی منتقل می‌کند: عاملی که اعتبارنامه، دسترسی به ابزار و دسترسی شبکه‌ای در اختیار دارد، کمتر شبیه مهاجم خارجی و بیشتر شبیه حسابی به‌خطرافتاده رفتار می‌کند که از پیش درون مرز اعتماد قرار دارد.

نمای نزدیک از رک‌های سرور روشن در یک مرکز داده، نمایش زیرساخت فناوری مدرن

در کنار این راهنما، مایکروسافت ابزارهایی برای پایش و مهار عامل‌های سرکش در لایه اجرا ارائه کرده است. این شرکت امنیت عامل را چیزی می‌داند که باید با سرعت ماشین پیش برود نه با آهنگ بازبینی انسانی، و این محدودیت معناداری برای طراحی است: صف‌های تأیید و ممیزی‌های دوره‌ای نمی‌توانند با حجم اقدامات عامل هم‌گام شوند، بنابراین کنترل‌ها باید به‌صورت درون‌خطی اعمال شوند. این راهنما هم‌زمان با به‌روزرسانی جداگانه‌ای از Microsoft Foundry منتشر می‌شود که عامل‌های زمان‌بندی‌شده و استفاده گسترده‌تر از ابزار را اضافه می‌کند؛ ترکیبی که هم خودمختاری و هم دامنه دسترسی آنچه تیم‌ها مستقر می‌کنند را افزایش می‌دهد.

برای تیم‌هایی که سیستم‌های عامل می‌سازند، پیامد عملی جابه‌جایی محل قرارگیری کنترل‌هاست. محدودسازی بر پایه کمترین امتیاز برای هر عامل و هر ابزار، پایش خروجی در فراخوانی‌های بیرونی، و مسیرهای لغو سریع به دفاع‌های اصلی تبدیل می‌شوند نه صرفاً بهداشت امنیتی. از این پوشش خبری مشخص نیست کدام کنترل‌های خاص لایه اجرا به‌طور عمومی در دسترس‌اند و کدام در پیش‌نمایش، و ابزار پایش چگونه با پشته‌های موجود هویت و SIEM یکپارچه می‌شود.

بیایید صحبت کنیم!