adrienbrault /qwen3.8-flash-next-2x-rtx5090

Техническая документация по запуску языковой нейросети Qwen3.8 на двух видеокартах RTX 5090 с замерами скорости работы.

Проект содержит конфигурацию, инструкции и результаты тестов по запуску большой языковой модели Qwen3.8-Flash-Next на двух видеокартах RTX 5090 через программы ExLlamaV3 и TabbyAPI. Автор публикует конкретные измерения скорости генерации текста и обработки запросов, полученные на реальном оборудовании, без прогнозов — все цифры подтверждены и датированы. Материал предназначен для тех, кто настраивает мощные видеокарты под работу с ИИ-моделями.

Описание автора: Qwen3.8-Flash-Next (2.50bpw EXL3) served on 2× RTX 5090 with ExLlamaV3 + TabbyAPI: launcher, image recipe, kernel overlays (MoE decode, shared-expert overlap, grouped prefill, MTP drafting), probes and dated measurements. 262k context, 786k-token 8-bit KV pool, 218 t/s code decode at 1 stream, 510 t/s at 4, 10k t/s prefill.

Python★ 1создан 19 сентября 2026форков 0

Открыть на GitHub →

Сколько звёзд прибавилось

Без значка — точная разница ежедневных снимков счётчика GitHub, со значком ≈ — оценка по архиву событий.

Точный счётчик GitHub: +0 звёзд с 19:20 19 сентября по 20:21 19 сентября.

Прирост по дням за 3 месяца

21 июня: ≈022 июня: ≈023 июня: ≈024 июня: ≈025 июня: ≈026 июня: ≈027 июня: ≈028 июня: ≈029 июня: ≈030 июня: ≈01 июля: ≈02 июля: ≈03 июля: ≈04 июля: ≈05 июля: ≈06 июля: ≈07 июля: ≈08 июля: ≈09 июля: ≈010 июля: ≈011 июля: ≈012 июля: ≈013 июля: ≈014 июля: ≈015 июля: ≈016 июля: ≈017 июля: ≈018 июля: ≈019 июля: ≈020 июля: ≈021 июля: ≈022 июля: ≈023 июля: ≈024 июля: ≈025 июля: ≈026 июля: ≈027 июля: ≈028 июля: ≈029 июля: ≈030 июля: ≈031 июля: ≈01 августа: ≈02 августа: ≈03 августа: ≈04 августа: ≈05 августа: ≈06 августа: ≈07 августа: ≈08 августа: ≈09 августа: ≈010 августа: ≈011 августа: ≈012 августа: ≈013 августа: ≈014 августа: ≈015 августа: ≈016 августа: ≈017 августа: ≈018 августа: ≈019 августа: ≈020 августа: ≈021 августа: ≈022 августа: ≈023 августа: ≈024 августа: ≈025 августа: ≈026 августа: ≈027 августа: ≈028 августа: ≈029 августа: ≈030 августа: ≈031 августа: ≈01 сентября: ≈02 сентября: ≈03 сентября: ≈04 сентября: ≈05 сентября: ≈06 сентября: ≈07 сентября: ≈08 сентября: ≈09 сентября: ≈010 сентября: ≈011 сентября: ≈012 сентября: ≈013 сентября: ≈014 сентября: ≈015 сентября: ≈016 сентября: ≈017 сентября: ≈018 сентября: ≈019 сентября: ≈7821 июняиюльавгсент

Оценка по выборке GH Archive. Бледные столбцы — дни, история за которые ещё загружается.