Экспериментальный проект по конвертации модели Qwen3.5-4B в ONNX для запуска на CPU, повторяющий идею модели Jev.
JevONNX переводит открытую модель Qwen3.5-4B-Hmm из формата GGUF в ONNX с помощью Microsoft ONNXRuntime Mobius, чтобы она работала на обычном процессоре без видеокарты. Модель Hmm — независимая попытка энтузиастов повторить идею типизированных вероятностных ответов, предложенную моделью Jev от TypeSafe AI, но она слабее оригинала и не связана с ним официально. В комплекте есть блокнот Colab для сборки, проверка целостности файлов и Python-интерфейс для запуска готовой модели.
Описание автора:Convert Qwen3.5-4B-Hmm GGUF to CPU ONNX with ONNXRuntime Mobius
Jupyter Notebook★ 1создан 22 сентября 2026форков 0
