Anthropic опубликовала исследование о том, как AI-агенты влияют на суждения, которые выносят эксперты, согласно новостной повестке дня в сфере AI, где этот материал вышел вместе с публикациями о внедрении в корпоративной среде. Формулировка важна для команд, строящих агентные системы: как только агент оказывается между экспертом предметной области и решением, результат зависит меньше от базовой модели, чем от harness вокруг неё — какой контекст предоставляется, что скрывается, как подаются рекомендации и насколько легко выразить несогласие.
Это делает суждение задачей дизайна и оценки, а не закупки. Harness, который незаметно сужает поле зрения эксперта, может порождать уверенное согласие, одновременно подрывая лежащие в его основе рассуждения, и стандартные бенчмарки точности выполнения задач этого не покажут. Командам нужны оценки, проверяющие, замечают ли эксперты по-прежнему ошибки, отменяют ли они по-прежнему решение агента, когда оно неверно, и объясняют ли они по-прежнему свои рассуждения после длительного использования. Без этого атрофия незаметна, пока не станет дорогостоящей.
Отдельно Anthropic сообщила WSJ, что внедрение AI в корпоративной среде остаётся на ранних этапах, и предоставила внешнему наблюдателю за AI доступ к своим системам на уровне сотрудника. Оба сигнала указывают на область, которая всё ещё калибрует надзор. Методология исследования, выборка и любые измеренные эффекты не установлены в предоставленных материалах, поэтому практический вывод остаётся структурным: рассматривайте harness агента как объект оценки и проектируйте с расчётом на сохранение экспертного суждения с самого начала.