Библиотека на Python, которая вместо генерации текста языковой моделью быстро выдаёт оценку, класс или вероятность по входным данным.
Von заменяет большие языковые модели там, где не нужен текст, а нужно быстрое решение — классификация, маршрутизация запроса или проверка правил. Ответ выдаётся за один проход без пошаговой генерации, поэтому обработка занимает менее 15–25 миллисекунд вместо секунд. Авторы заявляют точность 91,23% на тестах и совместимость с протоколом TypeSafe Jev.
Описание автора:The open-source System One decision model. Sub-15ms, non-autoregressive, local drop-in alternative to TypeSafe Jev.
Python★ 30создан 18 сентября 2026форков 5Apache-2.0
