Инструкция и патч для запуска большой модели DeepSeek-V4.1-Flash на четырёх серверах NVIDIA DGX Spark без сетевого коммутатора.
Репозиторий описывает запуск модели DeepSeek-V4.1-Flash (552 млрд параметров, контекст 1 млн токенов) на четырёх серверах NVIDIA DGX Spark, соединённых напрямую кольцом без коммутатора. Авторский патч ring-nccl чинит библиотеку NCCL под такую схему связи и удваивает пропускную способность, давая до 74% прироста скорости обработки текста и до 113% — при генерации ответов, по замерам авторов.
Описание автора:DeepSeek-V4.1-flash-4x-dgx-spark-switchless