CNBC сообщает, что за некоторыми коммерчески внедрёнными AI-агентами по-прежнему остаются люди в контуре. Второй репортаж описывает агентов, которые незаметно полагаются на людей, закрывающих пробелы, а Fortune рассказывает об одной компании, заменившей маркетинговые роли агентом плюс одним наёмным сотрудником. Все три материала указывают на один и тот же операционный паттерн: интерфейс, который выглядит автономным, может опираться на ручной труд, не видимый ни в демо, ни в заявлениях вендора о возможностях.
Для команд, которые закупают агентов или проводят их бенчмаркинг, практическое следствие таково: автономность нужно измерять на границе системы, а не в окне чата. Оценка, которая засчитывает только видимый результат, завысит то, что делает агент, всякий раз, когда человек разбирает исключения, переписывает выходные данные или покрывает сбои инструментов. Тот же разрыв влияет на то, как системы определяются по границам и сравниваются: агент со скрытым человеческим фолбэком — это другой артефакт, нежели тот, что выполняет задачу без посторонней помощи, и их не следует бенчмаркать в одной строке.
В репортажах не указано, какие вендоры, объёмы или типы задач задействованы, и ни в одном из материалов нет цифр о том, сколько человеческого вклада стоит за описанными внедрениями. Это оставляет масштаб паттерна неясным. Ясно одно: оценки агентов и обзоры внедрений должны фиксировать, где допускается вмешательство человека, как часто оно происходит и раскрывается ли оно.