Goodfire представила то, что описывает как мониторы «изнутри наружу» — подход к обнаружению вышедших из-под контроля ИИ-агентов, который, по её словам, работает при затратах, составляющих долю от существующих методов, сообщает TechCrunch. Предложение нацелено на команды, эксплуатирующие развёрнутых агентов, где надзор должен продолжаться после выпуска, а не останавливаться на этапе оценки.
Техническое различие в том, откуда монитор читает данные. Мониторинг только по выводу проверяет то, что агент выдаёт, и выводит намерение из этой поверхности. Мониторинг «изнутри наружу» вместо этого проверяет внутреннее состояние агента во время выполнения. Для агентных стеков это меняет и покрытие, и стоимость: внутренние сигналы могут выявить отклонение раньше, а профиль затрат непрерывной проверки меня
Goodfire представляет стоимость обнаружения как главное ограничение непрерывного мониторинга агентов. Именно это утверждение и заслуживает рассмотрения. В материале не указано, какие внутренние сигналы читаются, как задаются пороги обнаружения, какую задержку добавляют мониторы и как частота ложных срабатываний соотносится с базовыми линиями только по выводу. Независимой оценки или показателей бенчмарков не приводится. Пока эти детали недоступны, практический вопрос для команд — снижает ли мониторинг внутреннего состояния общую стоимость постоянного надзора, не внося при этом новых режимов отказа в сам слой мониторинга.