Futurism گزارش میدهد که استفاده از عامل هوش مصنوعی کاربران را در برابر ایمیلهای فیشینگ آسیبپذیرتر میکند. سازوکار این مسئله ساختاری است نه تصادفی: وقتی یک عامل صندوق ورودی را غربال میکند و به نمایندگی از کاربر عمل میکند، پیام ورودی دیگر چیزی برای خواندن نیست بلکه به کانال دستور تبدیل میشود — و با اقتدار کاربر از راه میرسد. طعمهای که در برابر یک انسان محتاط شکست میخورد، میتواند در برابر یک فرایند واگذارشده که برای عمل بر اساس آنچه دریافت میکند ساخته شده، موفق شود.

این یافته همزمان با آن منتشر میشود که سازمانها دستیارهای عامل را در ابزارهای صندوق ورودی و جریان کاری جای میدهند، امری که مواجهه را از احتیاط فردی به طراحی سیستم منتقل میکند. کنترلهای مرتبط در مرز میان محتوای غیرقابلاعتماد و اقدام ممتاز قرار دارند: بررسی منشأ ایمیلهای ورودی، تعیین صریح دامنه اقداماتی که عامل میتواند بدون تأیید انجام دهد، و تفکیک میان خواندن یک پیام و اجرای هر چیزی که در آن درخواست شده است. محتوای بیرون از مرز اعتماد باید بهعنوان داده تلقی شود، نه بهعنوان قصد، و هر اقدامی با اثر جانبی باید نیازمند یک نقطه بازرسی باشد که فرستنده نتواند به آن دست یابد.
آنچه پوشش ارائهشده مشخص نمیکند اندازه اثر، شرایطی که تحت آن آسیبپذیری افزایش مییابد، یا اینکه کدام طرحهای عامل آزموده شدهاند است. این شکافها برای هر کسی که تصمیم میگیرد چه میزان خودمختاری به دستیاری که ایمیل میخواند بدهد اهمیت دارند. تا زمانی که شواهد روشنتری در دسترس باشد، موضع استودیو این است که دسترسی واگذارشده به صندوق ورودی را بهعنوان یک یکپارچهسازی ممتاز تلقی کند و آن را در برابر پیامهای خصمانه ارزیابی کند پیش از آنکه دامنه مجوزهایش گسترده شود.
