پرش به محتوای اصلی

مطالعه Anthropic نشان می‌دهد توصیه‌های ایجنت بر تصمیم‌های متخصصان انسانی تأثیر می‌گذارد

Behzat AIagent-evaluationhuman-in-the-loopai-governancedecision-supportagent-supervision
عکس ماکرو از یک برد مدار که مسیرها، اتصالات لحیم‌کاری و قطعات نصب‌شده روی سطح را با جزئیات نزدیک نشان می‌دهد

بر اساس پوشش خبری این مطالعه، تحقیقات Anthropic نشان داده است که ایجنت‌های هوش مصنوعی می‌توانند بر تصمیم‌های متخصصان انسانی تأثیر بگذارند. BankInfoSecurity این یافته را در زمینه استقرار ایجنت در کارهای تحت نظارت قانونی گزارش می‌کند، جایی که خروجی ایجنت معمولاً قبل از اجرا توسط یک متخصص واجد شرایط بررسی می‌شود. این نتیجه برای هر سازمانی که تأیید انسانی را به عنوان لایه کنترل در نظر می‌گیرد مهم است: اگر قضاوت بازبین به سمت پیشنهاد ایجنت حرکت کند، کنترل ضعیف‌تر از آن چیزی است که نمودار گردش کار نشان می‌دهد.

عکس ماکرو از یک برد مدار الکترونیکی با ریزتراشه‌ها و قطعات

پوشش خبری جداگانه اشاره می‌کند که توجه انسانی گلوگاه نظارت بر ایجنت است. این محدودیت در کنار یافته Anthropic ناسازگار به نظر می‌رسد. بازبینی با توجه محدود دقیقاً همان بازبینی است که بیشتر احتمال دارد به یک توصیه روان و خوش‌قالب تن دهد، بنابراین حالت شکست و مشکل تأمین منابع یکدیگر را تشدید می‌کنند نه اینکه خنثی کنند.

برای ارزیابی، پیامد عملی این است که اندازه‌گیری پاسخ مدل به تنهایی کافی نیست. واحد مورد آزمون به جفت تصمیم انسان-ایجنت تبدیل می‌شود: آنچه ایجنت پیشنهاد داد، آنچه بازبین نتیجه گرفت، و اینکه آیا نتیجه بازبین بدون حضور ایجنت در حلقه متفاوت می‌بود. این امر نیازمند ابزارسازی حول مرحله بازبینی است، نه فقط امتیازدهی آفلاین به خروجی‌ها. پوشش ارائه‌شده نمونه، حوزه یا اندازه اثر مطالعه را بیان نمی‌کند، بنابراین بزرگی این تغییر تنها از این نکات نامشخص است؛ استودیو زمانی که مطالعه اصلی در دسترس باشد، جزئیات را گزارش خواهد کرد.

بیایید صحبت کنیم!