METR поставила под сомнение дизайн тестов Anthropic на безопасность агентов, при этом согласившись, что оценённый катастрофический риск низок. Разногласие касается того, как были построены оценки, а не самого результата, что относит спор к методологии, а не к вердикту о риске. Для команд, выстраивающих assurance-кейсы вокруг агентных систем, это различие имеет практическое значение: вывод о низком риске настолько же воспроизводим, насколько воспроизводим harness, который его породил.
Этот обмен мнениями происходит на фоне более широкого scrutiny доказательств безопасности агентов, предоставляемых самими разработчиками. Когда оценки проектируются и проводятся самим оцениваемым разработчиком, независимым аудиторам нужна достаточная видимость построения задач, оценки и обработки сбоев, чтобы воспроизвести или оспорить результат. Возражение METR указывает на то, что этой видимости было недостаточно или что выбор harness был спорным, хотя предоставленные материалы не уточняют, какие компоненты оценки оспаривались, какой альтернативный дизайн был предложен или планируется ли пересмотренная оценка. Эти детали остаются неясными.
Операционный вывод для агентной инженерии состоит в том, что узким местом для assurance-утверждений является дизайн harness, а не заявленный уровень риска. Студиям, выпускающим агентные системы, следует ожидать, что аудиторы будут напрямую изучать построение оценки, и документировать дизайн задач, правила оценки и известные ограничения вместе с результатами. Согласие по вердикту не решает вопрос о доказательствах.