Gizmodo گزارش میدهد که عاملهای هوش مصنوعی شکاف دستمزد جنسیتی را در وظایف شبیهسازیشده استخدام و پرداخت بازتولید کردهاند، و این شکاف در نتایج وظایف ظاهر شده است، نه در هیچ دستور صریحی به عامل. این نتیجه به شواهد موجود میافزاید که رفتار عامل الگوهای حاضر در دادهای که بر آن ساخته شده را به ارث میبرد و تقویت میکند، و آن الگوها میتوانند در تصمیمهای پاییندستی ظاهر شوند حتی وقتی خود وظیفه بیطرف است.

این یافته فراتر از آموزش مدل اهمیت دارد. عاملی که دستمزد تخصیص میدهد، نامزدها را رتبهبندی میکند یا کار را مسیریابی میکند، سامانهای است با ابزارها، حافظه، promptها و orchestration حول یک مدل، و هر یک از این لایهها میتواند سوگیری را حمل کند یا بازشکل دهد. بنابراین تشخیص این رفتار به ارزیابی و ممیزی وابسته است: مجموعههای وظیفه کنترلشده با ورودیهای جفتشده، مقایسه توزیع نتایج میان گروهها، و traceهایی که نشان میدهند کدام گام واگرایی را وارد کرده است. یک نمره بنچمارک واحد ثابت نمیکند که قرار د
آنچه از این پوشش خبری روشن نیست، مقیاس و پیکربندی شبیهسازیها، پشته عامل مشخص درگیر، و اینکه آیا شکاف تحت کاهشبندی (mitigation) پابرجا مانده است یا نه، میباشد. Behzat AI این دسته از نتایج را یک مسئله ارزیابی و ممیزی میداند، نه فقط یک مسئله آموزش مدل.
