Gizmodo сообщает, что AI-агенты воссоздали гендерный разрыв в оплате труда в симулированных задачах найма и оплаты, причём разрыв проявлялся в результатах задач, а не в каком-либо явном указании агенту. Этот результат дополняет уже имеющиеся свидетельства того, что поведение агентов наследует и усиливает закономерности, присутствующие в данных, на которых он построен, и что эти закономерности могут проявляться в последующих решениях, даже когда сама задача нейтральна.
Этот вывод важен не только для обучения модели. Агент, который распределяет оплату, ранжирует кандидатов или маршрутизирует работу, — это система с инструментами, памятью, промптами и оркестрацией вокруг модели, и каждый из этих слоёв может нести или переформировывать смещение. Поэтому обнаружение такого поведения зависит от практики оценки и аудита: контролируемые наборы задач со парными входными данными, сравнение распределений результатов по группам и трассировки, показывающие, на каком шаге возникло расхождение. Единственная оценка бенчмарка не устанавливает, что агента без
Что остаётся неясным из освещения — это масштаб и конфигурация симуляций, конкретный стек агента и сохранялся ли разрыв при применении мер по смягчению. Behzat AI рассматривает этот класс результатов как проблему оценки и аудита, а не только обучения модели.