Агентам-соучёным нужен реестр утверждений

Почему транскрипты не работают

Агент-соучёный, который читает статьи, запрашивает базы данных и составляет гипотезы, часто оценивается по тому, насколько убедительно звучит его финальный ответ. Это неправильный артефакт. Журнал чата смешивает три разных типа высказываний без различения: извлечение (что сказал источник), вывод (что заключил агент) и предположение (что он угадал). Когда рецензент позже спрашивает: «Какая статья подтверждает утверждение, что соединение X ингибирует путь Y?», транскрипт предлагает абзац беглой прозы и никакой прослеживаемой ссылки.

Воспроизводимость в науке зависит от знания того, какой источник подтверждает какое утверждение. Транскрипт не может этого дать, потому что он упорядочен по времени, а не по эпистемическому статусу. Два предложения, созданные с интервалом в секунды, могут опираться на совершенно разные доказательные базы, и ничто в тексте не отмечает границу. Проблема усугубляется между сессиями: более поздний ход может молчаливо использовать более раннее предположение как установленный факт — режим отказа, невидимый в прозе, но очевидный в структурированной записи.

Это не стилистическая жалоба. Это архитектурная. Если вывод агента будет проверяться экспертом, вывод должен быть оформлен так, чтобы проверка была возможна.

Реестр утверждений

Альтернатива — рассматривать агента как производителя утверждений, а не сообщений. Каждое утверждение хранится как запись, содержащая как минимум:

стабильный идентификатор;
текст утверждения, нормализованный достаточно для сравнения с другими утверждениями;
ссылки на доказательства (DOI, URL, строки базы данных, версии наборов данных), которые поддерживают или противоречат ему;
значение уверенности с указанным основанием, а не просто число;
вызов инструмента, который его породил, включая аргументы и дайджест сырого ответа;
агент или субагент, который его выдал, и родительское утверждение, из которого оно выведено;
состояние проверки (не проверено, принято, отклонено, требует дополнительных доказательств) с примечанием рецензента.

Минимальная схема может выглядеть так:

Close-up of a professional video production control panel with buttons and slider for editing.

{
  "claim_id": "c-7f3a",
  "text": "Соединение X ингибирует путь Y в клеточной линии Z",
  "evidence": [
    {"type": "doi", "value": "10.0000/example", "stance": "supports"},
    {"type": "database_row", "value": "uniprot:P12345", "stance": "supports"}
  ],
  "confidence": {"value": 0.62, "basis": "единственное исследование in vitro, без повторения"},
  "provenance": {"tool": "literature_search", "args": {"query": "X Y Z"}, "response_hash": "sha256:..."},
  "derived_from": ["c-1a2b"],
  "review": {"state": "unreviewed", "note": null}
}

Важное свойство — не конкретные поля, а разделение ответственности. Доказательства прикреплены к утверждению, а не к сообщению, которое случайно его содержало. Уверенность имеет основание, с которым человек может спорить. Происхождение записывается на уровне вызова инструмента, так что утверждение можно вывести заново или показать его невоспроизводимость.

Реестр также меняет способ обработки противоречий. В журнале чата два конфликтующих вывода обычно смешиваются в осторожный абзац, или один отбрасывается, потому что пришёл позже. В реестре оба утверждения сохраняются. Противоречие — это объект первого класса: две записи утверждений с перекрывающимся текстом и противоположными позициями. Система может выявить конфликт, отметить общие доказательства и направить его на проверку, а не усреднить. Усреднение — это решение, и его должен принимать человек, видящий обе стороны.

Человеческая проверка прикрепляется к конкретным утверждениям. Рецензент может принять c-7f3a, отклонив c-9d1e, и реестр записывает, кто что решил и на каком основании. Проверять всю сессию нецелесообразно; проверять очередь атомарных утверждений — можно. Очередь можно сортировать по уверенности, по статусу противоречия или по тому, сколько последующих утверждений зависит от данной записи.

Механизм на практике

Этот паттерн легче всего увидеть в мультиагентной конфигурации. Агент извлечения ищет в литературе и выдаёт кандидаты утверждений с доказательствами. Агент извлечения нормализует их в схему реестра. Агент-критик ищет противоречия и утверждения, чья уверенность превышает их доказательства. Агент синтеза может ссылаться только на идентификаторы утверждений, уже существующие в реестре; ему не разрешено вводить новые утверждения в прозе.

Это последнее ограничение — несущее. Если слой синтеза может писать свободный текст, он в конечном итоге напишет предложение, которое не поддерживается ни одной записью утверждения, и вся структура рухнет обратно в транскрипт с дополнительными шагами. Принудительное цитирование по идентификатору во время генерации — это то, что сохраняет запись проверяемой.

Здесь есть реальная цена. Структурированная выдача медленнее и более требовательна к токенам, чем свободная беседа, и она ограничивает беглость агента. Некоторый действительно полезный контекст не вписывается в схему утверждения, и принудительное его вписывание создаёт шум. Честный компромисс: реестр хуже транскрипта для исследования и лучше транскрипта для верификации. Практическое решение — позволить исследованию происходить в черновом пространстве и требовать структурирования только тех утверждений, которые поп

Modern industrial machine in operation in a manufacturing facility showcasing advanced technology.

Второй компромисс касается гранулярности. Слишком грубая — и утверждение объединяет несколько утверждений, которые нельзя проверить независимо. Слишком мелкая — и очередь проверки становится неуправляемой. Универсальной настройки нет; правильная гранулярность зависит от того, что нужно проверить нижестоящему эксперту.

Соответствие предметной области

Паттерн не специфичен для науки. Он обобщается на любую область с высокими ставками, где вывод агента позже проверяется экспертом: поддержка клинических решений, юридические исследования, финансовый комплаенс, анализ безопасности. В каждом случае рецензенту нужно знать, что утверждал агент, на что он опирался и насколько был уверен, и в каждом случае журнал чата скрывает именно это.

Общее требование — вывод агента является входом для человеческого суждения, несущего последствия. Когда вывод — всего лишь черновик или подсказка для дальнейших размышлений, транскрипт подходит. Когда вывод — это запись, за которую кто-то будет нести ответственность, она должна быть структурированной, с указанием источников и проверяемой на уровне отдельных утверждений.

Что строить в первую очередь

Минимально жизнеспособная версия — это таблица утверждений, таблица доказательств и конечный автомат проверки. Графовая база данных на старте не требуется; подойдёт реляционная схема с внешними ключами. Более сложная работа — выше по потоку: ограничить агентов выдачей утверждений, а не прозы, и построить критика, который обнаруживает, когда уверенность утверждения не подтверждается его доказательствами.

Полезный ранний тест — взять завершённую сессию и попытаться ответить, только по записи, какой источник подтверждает каждое предложение в финальном ответе. Если ответ — транскрипт, тест не пройден. Если это реестр, вопрос — это запрос.

Заключение

Агенты-соучёные оцениваются по тому, можно ли проверить их вывод. Журнал чата нельзя проверить на том уровне, который имеет значение, потому что он не различает извлечение, вывод и предположение, и потому что он прикрепляет доказательства к сообщениям, а не к утверждениям. Реестр утверждений восстанавливает это различие, делает противоречия видимыми вместо усреднённых и позволяет человеческой проверке прикрепляться к конкретным утверждениям, которые в ней нуждаются. Цена — беглость и скорость. Для любой области, где эксперт позже будет нести ответственность за результат, это правильный компромисс.

Агентам-соучёным нужен реестр утверждений, а не журнал чата