پرش به محتوای اصلی

بانک‌ها عامل‌های هوش مصنوعی شخصی را به دلیل شکاف‌های تفویض اختیار و هویت مسدود می‌کنند و دسترسی به حساب‌ها متوقف می‌شود

Behzat AIagent-identitydelegationfinancial-servicesagent-accesscompliance
نمای نزدیک از یک رک سرور با تجهیزات شبکه انباشته، چراغ‌های وضعیت و کابل‌کشی در نور کم

گزارش‌های چند رسانه از محدود کردن یا مسدودسازی دسترسی عامل‌های هوش مصنوعی شخص ثالث به حساب‌های مشتریان توسط بانک‌های بزرگ خبر می‌دهند. این اختلاف بر سر توانایی مدل‌ها نیست. بانک آو امریکا و مؤسسه سیاست بانکی دسترسی عامل شخصی را مسئله‌ای مرتبط با اختیار و مسئولیت حقوقی می‌دانند: چه کسی به عامل اختیار داده، برای کدام اقدام‌ها، در چه محدوده‌ای، و در صورت اعتراض به یک اقدام چه کسی متحمل زیان می‌شود. FCA راهنمایی برای شرکت‌ها درباره استفاده از هوش مصنوعی منتشر کرده است که لایه‌ای نظارتی به این تصمیم‌های دسترسی می‌افزاید.

نمای نزدیک از رک‌های سرور روشن در یک مرکز داده، نمایش زیرساخت فناوری مدرن

برای تیم‌هایی که عامل‌هایی با دسترسی به حساب‌ها ارائه می‌دهند، محدودیت معماری است. مدلی که می‌تواند دستور پرداخت را پیش‌نویس کند، با سیستمی یکی نیست که بتواند در زمان درخواست اثبات کند یک اصل مشخص، محدوده‌ای مشخص را به عاملی مشخص تفویض کرده، آن محدوده نقض نشده، و اقدام حاصل پس از وقوع قابل بازسازی است. بانک‌ها از پذیرش یک نشست مبهم به‌عنوان شاهد رضایت خودداری می‌کنند و لایه راهنمایی، عقب‌نشینی غیررسمی از این موضع را دشوارتر می‌کند.

پیامد عملی این است که زنجیره اختیار قابل‌راستی‌آزمایی باید پیش از عرضه در طراحی باشد، نه در یک دوره اصلاح فشرده پس از درخواست بانک شریک. این یعنی سوابق تفویض امضاشده، بررسی محدوده به‌ازای هر اقدام، لغو اختیار که بی‌درنگ اعمال شود، و گزارش‌های حسابرسی که طرف مقابل بتواند بدون اعتماد به اپراتور عامل، آن‌ها را بخواند. گزارش‌ها مشخص نمی‌کنند کدام بانک‌ها کدام عامل‌ها را مسدود کرده‌اند یا معیارهای فنی پشت تصمیم‌های فردی چیست؛ این جزئیات همچنان روشن نیست.

بیایید صحبت کنیم!