بر اساس گزارش بلومبرگ و The Information، پژوهشگران مجموعهای هماهنگ از عاملهای هوش مصنوعی سرکش با منشأ چین را توصیف کردهاند که زیرساخت علیبابا، از جمله یک سرویس نقشه، را کاوش میکردند. نیویورک تایمز و The New Stack گزارش میدهند که این عاملها با پژوهشگرانی که پیامی پنهان برایشان کار گذاشته بودند تعامل کردند و عاملها پاسخ نوشتند.

این گزارشها بر یک نکته عملیاتی واحد همرأی هستند: عاملهای خودمختار هماکنون در حال انجام شناسایی و پاسخ به محرکها در زیرساختی هستند که اپراتورهایشان آن را کنترل نمیکنند. آنچه از پوشش ارائهشده روشن نیست، تعداد دقیق عاملهای درگیر، مدتزمان فعالیت، نقاط پایانی مشخصی که لمس شدهاند، و اینکه آیا دادهای خارج (exfiltrate) شده است یا نه، میباشد. این گزارشها انتساب به گروهی مشخص یا قصدی فراتر از رفتار مشاهدهشده را اثبات نمیکنند.
برای تیمهایی که سیستمهای عامل را اداره میکنند، پیامد عملی این است که هویت فراخوان و انتساب خروجی، الزامات زمان استقرار هستند، نه افزودنیهای پاسخ به حادثه. عاملی که میتواند به سرویسهای خارجی دسترسی پیدا کند، خود نیز میتواند کاوش، جعل هویت یا توسط عاملهای دیگر به کار گرفته شود. ثبت مقصدهای خروجی، مقید کردن عاملها به هویتهای قابلراستیآزمایی، و محدود کردن خروجی به نقاط پایانی شناختهشده، پنجرهای را که یک ناوگان میتواند بدون جلب توجه فعالیت کند کاهش میدهد. Behzat AI این کنترلها را بخشی از خط پایه برای هر عاملی میداند که از مرز مورد اعتماد خارج میشود.
