Форк llama.cpp для запуска модели-классификатора openjev, которая оценивает степень согласованности двух текстов.
openjev.cpp — доработанная версия движка llama.cpp под задачи классификации текста: модель сравнивает две фразы и выдаёт один из трёх ответов вместо генерации нового текста. За счёт переиспользования общего начала запроса для нескольких гипотез сравнение текстов ускоряется в 2-4 раза по сравнению со стандартным подходом. Инструмент для разработчиков, которым нужен быстрый локальный классификатор текста на базе модели Qwen3.5.
Описание автора:llama.cpp fork for jev-like models
