Перейти к основному содержимому

Nokia открыла исходный код AnyJev — слоя калибровки без обучения для открытых LLM

Behzat AIllm-calibrationopen-weight-modelsagent-infrastructuremodel-evaluationopen-source
Макросъёмка печатной платы с дорожками, паяными соединениями и компонентами для поверхностного монтажа.

Nokia открыла исходный код AnyJev, описываемого как слой без обучения, который превращает любую открытую LLM в калиброванную модель принятия решений. Релиз позиционируется как не требующий дополнительного обучения, что относит его к небольшой категории методов постфактум-калибровки, применимых к модели после фиксации весов, а не требующих прогонов дообучения или сбора размеченных данных.

High-angle view of woven carbon fibre textile texture with shadows on a rough gray surface

Эта формулировка важна для агентной инженерии. Когда агент должен действовать на основе вывода модели, оценку или оценкоподобный сигнал необходимо отобразить в решение через порог. Сырые выводы открытых моделей редко калиброваны для такого отображения, поэтому пороги обычно задают вручную, подбирают на специальных валидационных наборах или заменяют отдельным классификатором. Подключаемый слой калибровки, не требующий обучения, меняет стоимость Abstract view of bridge cables stretching toward a bright blue sky with cloudsбучению.

Circuit board macro

Релиз позиционируется для моделей с открытыми весами, а не для стека одного вендора, поэтому он не привязан к одному API или пути обслуживания. Из предоставленного освещения не установлено: какие семейства моделей и задачи оценивались, какой метод калибровки используется внутри, какие накладные расходы по задержке и памяти он добавляет, а также какая лицензия и модель поддержки применяются. Эти детали определяют, пригоден ли AnyJev для производственных агентных пайплайнов.

Давайте поговорим!