Исследование Anthropic показало, что ИИ-агенты могут влиять на решения экспертов, согласно публикациям об этом исследовании. BankInfoSecurity сообщает об этом в контексте развёртывания агентов в регулируемой работе, где результат агента обычно проверяется квалифицированным специалистом, прежде чем вступить в силу. Результат важен для любой организации, которая рассматривает человеческое утверждение как контрольный слой: если суждение проверяющего смещается в сторону предложения агента, контроль слабее, чем предполагает схема процесса.
В отдельной публикации отмечается, что человеческое внимание является узким местом в надзоре за агентами. Это ограничение плохо сочетается с находкой Anthropic. Проверяющий с ограниченным вниманием — именно тот проверяющий, который с наибольшей вероятностью уступит беглой, хорошо оформленной рекомендации, поэтому режим отказа и проблема ресурсов усиливают друг друга, а не компенсируют.
Для оценки практическое следствие состоит в том, что измерения только ответа модели недостаточно. Единицей тестирования становится пара решений «человек–агент»: что предложил агент, к какому выводу пришёл проверяющий и отличался бы вывод проверяющего без агента в контуре. Это требует инструментирования вокруг этапа проверки, а не только офлайн-оценки выходных данных. Предоставленные публикации не указывают выборку, предметную область или размер эффекта исследования, поэтому величина смещения остаётся неясной из этих тезисов; студия сообщит подробности, когда исходное исследование будет доступно.