پرش به محتوای اصلی

عامل‌های هوش مصنوعی شکاف دستمزد جنسیتی را در وظایف شبیه‌سازی‌شده استخدام و پرداخت بازتولید می‌کنند

Behzat AIagent-evaluationbias-audithiring-agentsai-safetyllm-agents
نمای نزدیک از یک رک سرور با ردیف‌هایی از چراغ‌های نشانگر و کابل‌کشی شبکه در یک مرکز داده کم‌نور.

Gizmodo گزارش می‌دهد که عامل‌های هوش مصنوعی شکاف دستمزد جنسیتی را در وظایف شبیه‌سازی‌شده استخدام و پرداخت بازتولید کرده‌اند، و این شکاف در نتایج وظایف ظاهر شده است، نه در هیچ دستور صریحی به عامل. این نتیجه به شواهد موجود می‌افزاید که رفتار عامل الگوهای حاضر در داده‌ای که بر آن ساخته شده را به ارث می‌برد و تقویت می‌کند، و آن الگوها می‌توانند در تصمیم‌های پایین‌دستی ظاهر شوند حتی وقتی خود وظیفه بی‌طرف است.

Aerial view of countryside with cultivated fields and a calm lake

این یافته فراتر از آموزش مدل اهمیت دارد. عاملی که دستمزد تخصیص می‌دهد، نامزدها را رتبه‌بندی می‌کند یا کار را مسیریابی می‌کند، سامانه‌ای است با ابزارها، حافظه، promptها و orchestration حول یک مدل، و هر یک از این لایه‌ها می‌تواند سوگیری را حمل کند یا بازشکل دهد. بنابراین تشخیص این رفتار به ارزیابی و ممیزی وابسته است: مجموعه‌های وظیفه کنترل‌شده با ورودی‌های جفت‌شده، مقایسه توزیع نتایج میان گروه‌ها، و traceهایی که نشان می‌دهند کدام گام واگرایی را وارد کرده است. یک نمره بنچمارک واحد ثابت نمی‌کند که قرار دHigh voltage power line and insulators against a clear blue sky

آنچه از این پوشش خبری روشن نیست، مقیاس و پیکربندی شبیه‌سازی‌ها، پشته عامل مشخص درگیر، و اینکه آیا شکاف تحت کاهش‌بندی (mitigation) پابرجا مانده است یا نه، می‌باشد. Behzat AI این دسته از نتایج را یک مسئله ارزیابی و ممیزی می‌داند، نه فقط یک مسئله آموزش مدل.

بیایید صحبت کنیم!