CNBC گزارش میدهد که انسانها هنوز در حلقه پشت برخی ایجنتهای هوش مصنوعی مستقرشده تجاری حضور دارند. گزارش دومی ایجنتهایی را توصیف میکند که بیسروصدا به نیروی انسانی برای پر کردن شکافها تکیه میکنند، و Fortune درباره شرکتی گزارش میدهد که نقشهای بازاریابی را با یک ایجنت بهعلاوه یک استخدام جایگزین کرده است. این سه روایت به یک الگوی عملیاتی یکسان اشاره دارند: رابطی که خود را خودمختار نشان میدهد میتواند بر روی کار دستی تکیه داشته باشد که نه در دمو دیده میشود و نه در ادعاهای توانمندی فروشنده به حساب میآید.

برای تیمهایی که ایجنتها را تأمین یا بنچمارک میکنند، پیامد عملی این است که خودمختاری باید در مرز سیستم سنجیده شود، نه در پنجره چت. ارزیابیای که تنها خروجی قابل مشاهده را امتیاز میدهد، هر زمان که فردی استثناها را حل میکند، خروجیها را بازنویسی میکند یا خرابیهای ابزار را جبران میکند، آنچه ایجنت انجام میدهد را بیش از واقع نشان میدهد. همین شکاف بر نحوه تعیین دامنه و مقایسه سیستمها نیز اثر میگذارد: ایجنتی با یک پشتیبان انسانی پنهان، مصنوع متفاوتی از ایجنتی است که وظیفه را بدون کمک کامل میکند، و این دو نباید در یک خط بنچمارک شوند.
گزارشها مشخص نمیکنند که کدام فروشندگان، چه حجمی یا چه انواع وظایفی درگیرند، و هیچیک از این پوششها آماری درباره میزان ورودی انسانی پشت استقرارهای توصیفشده ارائه نمیدهد. این موضوع مقیاس این الگو را نامشخص میگذارد. آنچه روشن است این است که ارزیابیهای ایجنت و بازبینیهای استقرار باید ثبت کنند که مداخله انسانی کجا مجاز است، هر چند وقت یکبار رخ میدهد، و آیا افشا میشود یا نه.
