پرش به محتوای اصلی

ولز فارگو به مشتریان می‌گوید در صورت سرکشی agent هوش مصنوعی‌شان ممکن است مسئول باشند

Behzat AIagent-liabilityrevocation-proofai-governanceagent-delegationaudit-trails
عکس ماکرو از یک برد مدار که مسیرها، نقاط لحیم‌کاری و قطعات نصب‌شده روی سطح را با جزئیات نزدیک نشان می‌دهد

ولز فارگو به مشتریان خود اعلام کرده است که اگر یک agent هوش مصنوعی که به نمایندگی از آن‌ها عمل می‌کند سرکشی کند، ممکن است مسئول باشند و انتظار می‌رود بتوانند ثابت کنند که چنین agentهایی لغو شده‌اند. گزارش‌ها این اقدام را هم به‌عنوان یک الزام و هم به‌عنوان یک مسئله مسئولیت برای agentهای شخصی مطرح می‌کنند، نه صرفاً یک کنترل فنی. اثر عملی این است که تفویض اختیار از یک جزئیات پیکربندی خارج شده و به امری قراردادی تبدیل می‌شود: مشتری بار اثبات پس از واقعه را بر دوش دارد که اختیار پس گرفته شده است.

نمای ماکرو از یک برد مدار الکترونیکی با ریزتراشه‌ها و قطعات

برای تیم‌هایی که سیستم‌های agent می‌سازند، این الزام کار را به سمت ابزارگذاری سوق می‌دهد. اثبات لغو به معنای وجود یک سابقه پایدار و قابل حسابرسی از زمان وجود اختیار یک agent، دامنه‌ای که در اختیار داشت و زمان پس گرفتن آن دامنه است — با برچسب‌های زمانی و پیوند هویتی به‌قدری قوی که در یک اختلاف دوام بیاورد. تخصیص مسئولیت به این معناست که همان سابقه باید برای طرفی خارج از تیم مهندسی نیز قابل خواندن باشد. یک agent که نمی‌تواند مسیر لغوی شفافی نشان دهد، در این چارچوب، ریسکی مدیریت‌نشده است که مشتری آن را حمل می‌کند.

آنچه از این پوشش خبری روشن نیست، شواهد مشخصی است که ولز فارگو خواهد پذیرفت، مدت اخطار برای لغو، و اینکه آیا این انتظار شامل agentهای ساخته‌شده بر چارچوب‌های شخص ثالث می‌شود یا فقط agentهای واسط بانک را در بر می‌گیرد. این جزئیات تعیین می‌کنند که آیا اثبات لغو به یک مصنوع استاندارد در طراحی agent تبدیل می‌شود یا به یک یکپارچه‌سازی سفارشی برای هر مؤسسه. جهت حرکت به‌قدر کافی روشن است: تفویض اختیار به agent اکنون به یک سطح حسابرسی نیاز دارد، نه فقط یک prompt دستوری.

بیایید صحبت کنیم!