Bioengineer.org сообщает, что методы объяснимого ИИ были использованы для точного определения и обхода фильтров безопасности LLM. Формулировка важнее отдельного результата: поведение отказа рассматривается как локализуемый внутренний механизм, а не как эмерджентное свойство обученной модели. Инструменты интерпретируемости направляются на модель, чтобы найти конкретную структуру, порождающую отказ, и затем воздействуют на эту структуру напрямую.
Если отказ можно локализовать, его можно рассматривать как компонент. Это смещает вопрос с того, выровнена ли модель, на то, присутствует ли конкретная схема, доступна ли она и цела ли она в развёрнутом артефакте. Это также меняет то, что охватывает утверждение о безопасности: свойство модели в процессе обучения не то же самое, что свойство модели в том виде, в каком она поставлен
Отчёт появляется вместе с отдельными выводами о том, что защиты для конкретной модели не выдерживают кросс-модельного состязательного переноса. В совокупности эти две линии указывают на то, что защиты, привязанные к внутреннему поведению одной модели, хрупки на границах моделей, и что оценка должна тестировать развёрнутую систему, а не предполагать, что отказ является внутренне присущим. Что остаётся неясным из освещения, так это какие модели были задействованы, как был идентифицирован механизм и обобщается ли метод за пределами описанной конфигурации.