پرش به محتوای اصلی

گزارش: ۵۴٪ شرکت‌ها نمی‌توانند دسترسی agentهای هوش مصنوعی را محدود کنند

Behzat AIai-agentsaccess-controlagent-securitypermissionsاستقرار
نمای نزدیک از یک رک سرور که تجهیزات شبکه انباشته، کابل‌کشی و چراغ‌های نشانگر وضعیت را نشان می‌دهد.

پژوهش Cybersecurity Insiders پیش‌بینی می‌کند که تا سال ۲۰۲۷، ۵۴٪ شرکت‌ها قادر به محدود کردن دسترسی agentهای هوش مصنوعی نخواهند بود. این یافته به‌عنوان شکافی در کنترل دسترسی و نه شکافی در تشخیص صورت‌بندی شده است: مسئله دیدن آنچه یک agent انجام می‌دهد نیست، بلکه محدود کردن آنچه می‌تواند به آن دست یابد است. برای تیم‌هایی که سیستم‌های agent را عرضه می‌کنند، این امر محدودسازی مجوزها را از یک ملاحظه پس از انطباق به یک قید طراحی بازتعریف می‌کند.

نمای نزدیک از رک‌های سرور روشن در یک مرکز داده، یک عکس استوک.

پوشش خبری جداگانه استدلال می‌کند که کم‌اعتمادترین نویسنده در یک زنجیره، امتیاز مؤثر agent را تعیین می‌کند. در کنار هم، این دو نکته الگوی شکست آشنایی را در سیستم‌های چند-agent و ابزارمحور توصیف می‌کنند: یک agent اجتماع آنچه ورودی‌ها، ابزارها و مراحل واگذارشده‌اش مجاز می‌کنند را به ارث می‌برد و ضعیف‌ترین حلقه در این زنجیره مرز واقعی را تعریف می‌کند. ابزارهای تشخیص این مرز را کوچک نمی‌کنند؛ تنها محدودسازی صریح این کار را می‌کند.

برای استودیو، پیامد عملی این است که محدودسازی اعتبارنامه و ابزار باید در معماری و در کنار انتخاب مدل قرار گیرد، نه پس از آن. به‌طور مشخص، این یعنی اعطای کمترین امتیاز به‌ازای هر ابزار، اعتبارنامه‌های کوتاه‌مدت، محدودیت‌های صریح واگذاری میان agentها، و ارزیابی‌هایی که آزمون می‌کنند آیا می‌توان agent را به خارج از دسترس مورد نظرش راند یا نه. این پوشش خبری روش‌شناسی نظرسنجی، اندازه نمونه یا تفکیک بخشی پشت پیش‌بینی ۵۴٪ را مشخص نمی‌کند، و این پیش‌بینی آینده‌نگر است نه سنجشی از استقرارهای کنونی؛ این جزئیات پیش از آنکه بتوان این رقم را به‌عنوان یک خط پایه در نظر گرفت، لازم است.

بیایید صحبت کنیم!