Сервер для быстрого запуска языковой модели Qwen3.8-Flash-Next именно на видеочипах AMD Strix Halo — узкоспециализированный, но заметно быстрее аналогов.
halogen-flash-server запускает большую языковую модель Qwen3.8-Flash-Next специально на графическом чипе AMD Strix Halo (gfx1151). Все вычислительные блоки написаны под конкретную связку модели и железа, без переносимости на другие устройства. По замерам автора на длинном запросе система обрабатывает данные примерно в 4 раза быстрее других известных решений для этой же связки оборудования.
Описание автора:The fastest way to run Qwen3.8-Flash-Next on Strix Halo (gfx1151)
