مدیر امنیت مایکروسافت اعطای مجوز بیش از حد به ایجنت‌ها را هشدار می‌دهد؛ بانک‌های آمریکایی ایجنت‌های شخص ثالث را محدود می‌کنند

به گزارش TweakTown، مدیر امنیت مایکروسافت اعلام کرده است که هوش مصنوعی «قابل اعتماد نیست» و به ایجنت‌های هوش مصنوعی قدرت بیش از حد داده شده است. این اظهارنظر همزمان با گزارش‌هایی منتشر می‌شود که بانک‌های بزرگ آمریکایی ایجنت‌های هوش مصنوعی شخص ثالث را به دلیل ریسک امنیتی از حساب‌های مشتریان محدود یا مسدود کرده‌اند (WJET/WFXP، KMOV). این دو نشانه به یک مشکل واحد اشاره دارند: مجوزهایی که امروز به ایجنت‌ها داده می‌شود از تضمین‌هایی که فروشندگان حاضرند درباره آن‌ها بدهند پیشی گرفته است.

فروشندگان در حال حرکت به سمت لایه هویت هستند. IBM هویت ایجنت را به‌صورت عمومی در دسترس قرار داد و کنترل‌های زمان اجرا را با HashiCorp Vault برای اعتبارنامه‌های ایجنت جفت کرد (IBM، Techzine Global). این الگو — اعتبارنامه‌های محدود به دامنه، اعمال در زمان اجرا، و هویتی قابل حسابرسی برای هر ایجنت — همان شکل کنترلی است که خریداران تحت مقررات طلب می‌کنند. این موضوع پرسش استقرار را نیز بازتعریف می‌کند: نه اینکه آیا یک ایجنت می‌تواند کاری را کامل کند، بلکه به چه چیزی اجازه دسترسی دارد، تحت هویت چه کسی، و با چه شواهدی که از خود به جا می‌گذارد.

پیامد تجاری آن پیش‌تر از این آشکار شده است. تحلیلگران ریسک درآمدی ناشی از رفتار مبتنی بر ایجنت را علامت‌گذاری کرده‌اند و Mizuho برای Circle تا ۲۰٪ ریسک درآمدی را ذکر کرده است (The Block). برای تیم‌هایی که ایجنت‌ها را به خدمات مالی وارد می‌کنند، محدودیت اکنون اثبات‌پذیری است نه توانمندی. آنچه از این پوشش خبری روشن نیست، مجموعه کنترل‌های مشخصی است که بانک‌ها پیش از برداشتن محدودیت‌ها خواهند پذیرفت، و اینکه آیا ابزارهای هویت ایجنت از سوی فروشندگان زیرساخت، این بازبینی‌ها را بدون کار یکپارچه‌سازی سفارشی برآورده خواهند کرد یا نه.