شرکتها عاملهای هوش مصنوعی را سریعتر از توان پاسخگوییشان مستقر میکنند. گزارشهای رسانههای امنیتی و حقوقی از یک شکاف عملیاتی پایدار حکایت میکنند: سازمانها میتوانند به عاملها دسترسی و خودمختاری بدهند، اما نمیتوانند بهطور قابلاعتماد بازسازی کنند چه کسی اقدام کرده، تحت اختیار چه کسی، و با چه شواهد پشتیبانیکنندهای. بیشتر شرکتها عاملهای هوش مصنوعی را بهعنوان نفوذی طبقهبندی میکنند، و مدیران امنیت اطلاعات (CISO) در حال سنجش میزان مواجهه خود هستند زمانی که یک عامل اقدامی انجام میدهد که انسان صریحاً آن را تأیید نکرده است.

تصویر حقوقی همچنان نامشخص است. گزارشها اشاره میکنند که مسئولیت زمانی که یک عامل بهتنهایی اقدام میکند پرسشی باز است، که بار اثبات را به تیمهای مهندسی و امنیت بازمیگرداند تا پس از واقعه شواهد تولید کنند. مدیران فناوری اطلاعات از پیش خود را برای رخدادهای امنیتی عاملهای هوش مصنوعی آماده میکنند و آنها را بهعنوان یک دسته مورد انتظار و نه فرضی میبینند. آنچه از گزارشهای موجود روشن نیست، وضعیت بلوغ ابزارها، کنترلهای مشخصی که اتخاذ میشود، و اینکه آیا راهنمای مقرراتی قریبالوقوعی وجود دارد یا نه است.
برای تیمهایی که عامل عرضه میکنند، پیامد عملی این است که هویت، اختیار محدودهدار و ثبت وقایع در سطح اقدام باید پیش از استقرار طراحی شوند، نه اینکه پس از یک رخداد بهصورت وصلهای اضافه شوند. پوشش حسابرسی یک ملاحظه پس از انطباق نیست؛ سازوکاری است که سازمان با آن میتواند به یک نهاد نظارتی، مشتری یا هیئتمدیره خود پاسخ دهد. جایی که عاملها اعتبارنامه نگه میدارند و ابزارها را خودمختار فراخوانی میکنند، ردگیری از قصد تا اقدام اجراشده سطح کنترل اصلی است.
