پرش به محتوای اصلی

پنج بانک آمریکایی دسترسی agentهای هوش مصنوعی شخص ثالث به حساب‌های مشتریان را مسدود می‌کنند

Behzat AIagentic-aibankingagent-delegationaccess-controlai-governance
نمای نزدیک از یک دستگاه فایروال شبکه با LEDهای وضعیت و پورت‌های اترنت کابل‌کشی‌شده به یک رک.

رویترز گزارش می‌دهد که پنج بانک بزرگ آمریکایی ورود agentهای هوش مصنوعی شخص ثالث به حساب‌های مشتریان را مسدود می‌کنند و JPMorgan و Morgan Stanley از جمله نهادهایی هستند که دسترسی agent را محدود کرده‌اند. گزارش‌ها توصیف می‌کنند که agentها بدون تأیید صریح مشتری به حساب‌ها دسترسی پیدا می‌کنند و گفته می‌شود بانک‌ها در تکاپوی افزودن ابزارهای تشخیص و کنترل برای نشست‌های agent هستند.

نمای نزدیک از یک برد مدار قرمز با قطعات الکترونیکی

برای تیم‌هایی که agentها را روی زیرساخت بانکداری مصرف‌کننده می‌سازند، پیامد عملی این است که پرسش واگذاری اختیار با رد کردن نشست پاسخ داده می‌شود، نه با مذاکره بر سر یک mandate. agentی که مسیری احراز هویت‌شده به یک حساب خرده‌فروشی را فرض می‌کند باید با یک مسیر جایگزین طراحی شود: تحویل به انسان در حلقه (human-in-the-loop)، مسیر خروجی‌گیری و بارگذاری، یا یک گام دستی مستند که کاربر خودش انجام می‌دهد. هیچ‌یک از این‌ها زیبا نیست، اما هر کدام به‌طور قابل پیش‌بینی تنزل می‌یابد به‌جای آنکه در مرز ورود شکست بخورد.

داستان mandate به‌اندازه داستان فنی اهمیت دارد. اگر بانک نتواند شاهدی ببیند که مشتری به agent مشخصی اجازه اقدام روی حساب مشخصی را داده است، ابزارهای تشخیص، نشست را ناهنجار تلقی می‌کنند. استودیوهایی که در این حوزه محصول ارائه می‌دهند باید بتوانند به زبان ساده بگویند چه کسی رضایت داده، برای چه دامنه‌ای، برای چه مدت، و چگونه آن رضایت پس گرفته می‌شود. آنچه از این گزارش روشن نیست این است که کدام سه بانک مجموعه پنج‌تایی را کامل می‌کنند و آیا هیچ‌یک از این محدودیت‌ها به‌صورت سیاست منتشر شده‌اند یا صرفاً از طریق تشخیص اعمال می‌شوند.

بیایید صحبت کنیم!