فورچون گزارش داد که جیمی دایمون عاملهای هوش مصنوعی خارجی، مانند Muse متا، را از حسابهای JPMorgan منع کرده است. دایمون بهطور جداگانه هشدار داد که عاملهای پرداخت هوش مصنوعی ممکن است بهدرستی عمل نکنند. US Bancorp گفت که عاملهای هوش مصنوعی هنوز سپردههای مصرفکنندگان را جابهجا نمیکنند.

این اقدام مهم است زیرا نقطه کنترل را در هویت فراخوانکننده قرار میدهد، نه در توانایی عامل. یک عامل خارجی ممکن است از نظر فنی توانمند باشد، اما بانک همچنان درخواست را تأییدنشده تلقی میکند مگر اینکه فراخوانکننده یک اصل شناختهشده و احراز هویتشده باشد. این یک مسئله مجوزدهی و اصالت است، نه یک مسئله کیفیت مدل.
برای تیمهایی که سیستمهای عاملی میسازند، پیامد مستقیم است: از همان ابتدا برای انتشار هویت، اعتبارنامههای محدودهدار و تفویض قابل حسابرسی طراحی کنید. عاملی که نمیتواند هویت قابل تأیید و مورد پذیرش بانک را ارائه دهد، در پیرامون رد خواهد شد، صرفنظر از اینکه چقدر خوب استدلال میکند. این پوشش خبری مکانیزم فنیای که JPMorgan برای تشخیص عاملهای خارجی استفاده میکند را مشخص نمیکند، و نه اینکه آیا استثنایی وجود دارد. همچنین روشن نیست که چنین سیاستی در مقیاس بزرگ چگونه اجرا میشود یا چگونه با پروتکلهای نوظهور پرداخت عاملی تعامل میکند.
