پرش به محتوای اصلی

مؤسسه سیاست بانکی، عامل‌های هوش مصنوعی شخصی را به‌عنوان مسئله اختیار و مسئولیت حقوقی مطرح می‌کند

Behzat AIagent-identitydelegated-accessfinancial-servicesai-governanceagent-security
نمای نزدیک از یک رک سرور با تجهیزات شبکه انباشته، کابل‌کشی و چراغ‌های نشانگر وضعیت

مؤسسه سیاست بانکی نوشته‌ای با عنوان «عامل هوش مصنوعی شما برای شما کار نمی‌کند» منتشر کرده است که استدلال می‌کند نمی‌توان فرض کرد اقدامات یک عامل شخصی در چارچوب اختیار کاربر قرار می‌گیرد. این چارچوب‌بندی برای سازندگان عامل اهمیت دارد: دسترسی تفویض‌شده را به‌عنوان مسئله اختیار و مسئولیت حقوقی می‌بیند، نه مسئله‌ای درباره اینکه آیا می‌توان به فروشنده‌ای خاص اعتماد کرد. پاسخ دادن به این استدلال با اطمینان‌بخشی درباره کیفیت مدل یا نحوه مدیریت داده‌ها دشوارتر است.

نمای نزدیک از رک‌های سرور روشن در یک مرکز داده، نمایش زیرساخت فناوری مدرن

این موضع در کنار رفتار مشخص بازار قرار می‌گیرد. بانک‌های کانادایی از جمله BMO، CIBC، RBC و TD با استناد به ایمنی و امنیت، اقدام به مسدودسازی عامل‌های هوش مصنوعی شخصی کردند، در حالی که Bank of America به مشتریان هشدار داد رمز عبور خود را با عامل‌های هوش مصنوعی به اشتراک نگذارند. در هر مورد، نگرانی اعلام‌شده کنترل بر آنچه یک عامل می‌تواند با یک اعتبارنامه انجام دهد است، نه هویت توسعه‌دهنده عامل.

این بحث همزمان با پیشنهاد اصول هویت و مدیریت دسترسی عامل از سوی NIST مطرح می‌شود که از سمت استانداردها به همان نتیجه اشاره دارد: عامل‌ها به هویت قابل‌راستی‌آزمایی مستقل، مجوزهای محدود به دامنه مشخص و سابقه قابل‌حسابرسی از آنچه مجاز به انجام آن بودند نیاز دارند. آنچه از پوشش ارائه‌شده روشن نیست، دامنه دقیق اقدامات مسدودسازی در هر بانک کانادایی و این است که آیا پیشنهاد NIST وزن الزام‌آور خواهد داشت یا خیر. برای تیم‌هایی که عامل‌هایی برای حساب‌های مالی عرضه می‌کنند، کار عملی طراحی اختیار، محدودسازی دامنه مجوزها و ارائه شواهد مجاز بودن است.

بیایید صحبت کنیم!