Позволяет запускать модель DeepSeek-V4.1-Flash (748 млрд параметров) на Macbook с 24 ГБ памяти, подгружая веса с SSD вместо оперативки.
Инструмент на Python запускает большую языковую модель DeepSeek-V4.1-Flash (552 млрд MoE-параметров плюс 196 млрд n-грамм таблиц) на Apple Silicon с 24 ГБ ОЗУ. Вместо загрузки всех 427 ГБ весов в память эксперты модели подгружаются с SSD по мере необходимости, для чего нужно около 310 ГБ свободного места на диске. Есть режим размышления перед ответом и настройки температуры, размера контекста и объёма памяти под модель.
Описание автора:Deepseek v4.1-Flash on a 24GB Macbook pro
Python★ 9создан 15 сентября 2026форков 3Apache-2.0