Perplexity выпустила инструмент безопасности AI в открытом исходном коде; по сообщениям ряда изданий, он будет отдан бесплатно, а не удержан как проприетарный продукт. Инструмент описывается как используемый для сдерживания AI-агентов — то есть для ограничения того, что агент может делать во время работы, а не только для фильтрации его входов и выходов на границе модели.
Этот релиз вписывается в более широкую тенденцию, в которой сдерживание перемещается на уровень времени выполнения, наряду с усилиями по sandboxing от других вендоров. Для команд, строящих агентные системы, практическое значение имеет проверяемость: компонент сдерживания с открытым исходным кодом можно прочитать, протестировать и напрямую проанализировать, вместо того чтобы относиться к нему как к непрозрачному control plane, режимы отказа которого видны только в продакшене. Это важно для работы по evaluation, где границы вокруг агента — часть того, что необходимо измерять.
Что остаётся неясным из публикаций — это охват инструмента, поддерживаемые среды выполнения и то, как он обрабатывает многоагентные сценарии или рабочие процессы с вызовом инструментов. Само объявление не устанавливает бенчмарки, гарантии или модель управления, а в публикациях не указаны лицензия или сроки релиза. Командам, оценивающим его, следует считать репозиторий источником истины и самостоятельно проверять границы принуждения, прежде чем полагаться на них.
Источники: