پرش به محتوای اصلی

شکاف‌های نظارتی OpenAI و Anthropic هم‌زمان با مطالبه بانک‌ها برای اثبات ابطال دسترسی عامل‌ها آشکار شد

Behzat AIagent-securityai-governancerevocationmonitoringfinancial-services
نمای نزدیک از یک رک سرور تیره با واحدهای روی‌هم‌چیده، کابل‌ها و چراغ‌های کوچک نشانگر وضعیت.

دو گزارش جداگانه به یک شکاف عملیاتی یکسان در استقرار agentها رسیده‌اند. BankInfoSecurity گزارش می‌دهد که OpenAI و Anthropic شکاف‌هایی در نظارت بر AI agent آشکار کرده‌اند، در حالی که Wells Fargo به مشتریان خود اعلام کرده است که در صورت خارج شدن agent آن‌ها از کنترل ممکن است مسئولیت داشته باشند و از آن مشتریان می‌خواهد ثابت کنند که دسترسی agent باطل شده است. این پوشش خبری، ابطال دسترسی را به‌عنوان تعهدی بر عهده مشتری و نه تضمینی از سوی پلتفرم قالب‌بندی می‌کند.

نمای نزدیک از رک‌های سرور روشن در یک مرکز داده، نمایش زیرساخت فناوری مدرن

برای تیم‌های مهندسی، اهمیت موضوع نه در یافته‌های منفرد بلکه در هم‌پوشانی آن‌هاست. هر دو به یک سند مفقود اشاره می‌کنند: سابقه‌ای قابل‌راستی‌آزمایی که نشان دهد اختیارات یک agent اعطا شده، چه دامنه‌ای داشته و چه زمانی و چگونه لغو شده است. همین سابقه است که حسابرسان و طرف‌های مقابل اکنون درخواست می‌کنند و نمی‌توان آن را پس از واقعه تنها از لاگ‌های برنامه بازسازی کرد. داشبوردهای نظارتی فعالیت را نشان می‌دهند؛ اما وضعیت مجوزدهی در یک لحظه مشخص را اثبات نمی‌کنند.

آنچه از پوشش ارائه‌شده روشن نیست، قالب دقیق شواهدی است که بانک‌ها خواهند پذیرفت، اینکه آیا فروشندگان پلتفرم قصد دارند رویدادهای ابطال دسترسی را از طریق یک رابط استاندارد ارائه کنند، و اینکه مسئولیت هنگام اقدام یک agent از طریق یک ابزار شخص ثالث چگونه تقسیم می‌شود. تیم‌هایی که agentها را در جریان‌های کاری مالی به کار می‌گیرند باید چرخه عمر اعتبارنامه، اعلام دامنه و انتشار ابطال دسترسی را به‌عنوان دغدغه‌های طراحی درجه‌یک در نظر بگیرند، به‌گونه‌ای که در هر مرحله مسیری قابل‌حسابرسی تولید شود و نه آنکه بعداً استنتاج گردد. کار ارزیابی استودیو این موارد را ویژگی‌هایی قابل‌آزمون می‌داند، نه ادعاهای مستندات.

بیایید صحبت کنیم!