Ambolio /ninfer-4090-windows

Портированный на нативный Windows движок для быстрого локального инференса ИИ-моделей на видеокарте RTX 4090.

Проект адаптирует движок инференса NInfer под архитектуру видеокарты RTX 4090 и запуск в нативном Windows 11 без WSL2, с оптимизацией под ограничения памяти именно этой карты. Поддерживает обработку текста, изображений и видео через локальный интерфейс командной строки или HTTP API, совместимый с форматами OpenAI и Anthropic. Есть родственный проект для видеокарты RTX 5090 с теми же бенчмарками для сравнения.

Описание автора: NInfer v1.0.7 - Windows 11 native build for RTX 4090 (sm_89) - Port de Neroued/ninfer (upstream b88c0f6f): rk4v4-e8 E8 KV 260k, MTP3, WDDM budget. Apache-2.0.

C++★ 8создан 9 сентября 2026форков 0Apache-2.0

Открыть на GitHub →

Сколько звёзд прибавилось

Прирост по дням за 3 месяца

17 июня: ≈018 июня: ≈019 июня: ≈020 июня: ≈021 июня: ≈022 июня: ≈023 июня: ≈024 июня: ≈025 июня: ≈026 июня: ≈027 июня: ≈028 июня: ≈029 июня: ≈030 июня: ≈01 июля: ≈02 июля: ≈03 июля: ≈04 июля: ≈05 июля: ≈06 июля: ≈07 июля: ≈08 июля: ≈09 июля: ≈010 июля: ≈011 июля: ≈012 июля: ≈013 июля: ≈014 июля: ≈015 июля: ≈016 июля: ≈017 июля: ≈018 июля: ≈019 июля: ≈020 июля: ≈021 июля: ≈022 июля: ≈023 июля: ≈024 июля: ≈025 июля: ≈026 июля: ≈027 июля: ≈028 июля: ≈029 июля: ≈030 июля: ≈031 июля: ≈01 августа: ≈02 августа: ≈03 августа: ≈04 августа: ≈05 августа: ≈06 августа: ≈07 августа: ≈08 августа: ≈09 августа: ≈010 августа: ≈011 августа: ≈012 августа: ≈013 августа: ≈014 августа: ≈015 августа: ≈016 августа: ≈017 августа: ≈018 августа: ≈019 августа: ≈020 августа: ≈021 августа: ≈022 августа: ≈023 августа: ≈024 августа: ≈025 августа: ≈026 августа: ≈027 августа: ≈028 августа: ≈029 августа: ≈030 августа: ≈031 августа: ≈01 сентября: ≈02 сентября: ≈03 сентября: ≈04 сентября: ≈05 сентября: ≈06 сентября: ≈07 сентября: ≈08 сентября: ≈09 сентября: ≈010 сентября: ≈011 сентября: ≈012 сентября: ≈013 сентября: ≈014 сентября: ≈015 сентября: ≈1217 июняиюльавгсент

Оценка по выборке GH Archive. Бледные столбцы — дни, история за которые ещё загружается.