یک گزارش موضوعی سازمان ملل متحد به موضوع عاملهای هوش مصنوعی، ناهمراستایی و خطر از دست رفتن کنترل انسانی بر سیستمهای مستقر پرداخته است. UN News گزارش میدهد که پنل با پیشرفت قابلیتهای عاملها خواستار تدابیر حفاظتی قویتر شده است. این گزارش، خودمختاری عاملها را در چارچوب بحث سیاست چندجانبه قرار میدهد، نه اینکه آن را تنها به مستندات فروشنده و بازبینی داخلی واگذار کند.

برای تیمهایی که سیستمهای عامل را عرضه میکنند، پیامد عملی فشار در حوزه تدارکات و انطباق است. انتظارات مربوط به تدابیر حفاظتی که در این سطح بیان میشود، معمولاً در بخشهای تحت نظارت بهصورت پرسشهای حسابرسی، الزامات افشا و شرایط قراردادی بازمیگردد. سیستمهایی که نمیتوانند کنش کراندار، نظارت انسانی و مسیرهای تصمیم قابل ردیابی را اثبات کنند، جایگیری دشوارتری خواهند داشت. آنچه این گزارش هنوز مشخص نکرده، نامشخص است: در پوشش بررسیشده در اینجا هیچ آستانه کنترلی مشخص، روششناسی ارزیابی یا زمانبندی برای اقدام کشورهای عضو توصیف نشده است.

رویکرد معقول در کوتاهمدت این است که نظارت را بهعنوان یک مصنوع مهندسی در نظر بگیریم، نه یک بیانیه سیاستی. این یعنی ثبت کنشهای عامل و فراخوانیهای ابزار، تعریف و اعمال محدودیتهای خودمختاری، و حفظ یک مسیر مستند ارجاع انسانی که بتوان آن را به بازبین خارجی نشان داد. استودیو به رصد این ادامه خواهد داد که چگونه این بحث به زبان تدارکات تبدیل میشود.
