youssofal /MTPLX

Программа для Mac на Apple Silicon, ускоряющая работу локальных языковых моделей вроде Qwen почти в два раза без потери качества ответов.

MTPLX — приложение и утилита командной строки для запуска локальных ИИ-моделей на Mac с Apple Silicon. Использует встроенную в модели (например, Qwen 3.5–3.8) функцию multi-token prediction: модель генерирует несколько токенов вперёд и проверяет их за один проход, что даёт прирост скорости 1.6–2.24 раза без изменения итогового текста ответа. Приложение само подбирает подходящую под память модель, скачивает её и настраивает окружение без установки Homebrew.

Описание автора: 3x faster speeds on MLX | Qwen 3.8 27B | Native MTP Speculative Decoding On Apple Silicon With No External Drafter.

Python★ 2 328создан 2 мая 2026форков 173Apache-2.0
apple-siliconlocal-aimlxmtpopenai-compatibleqwenspeculative-decodinganthropic-compatible

Открыть на GitHub → Сайт проекта

Сколько звёзд прибавилось

Прирост по дням за 3 месяца

17 июня: ≈018 июня: ≈019 июня: ≈7020 июня: ≈021 июня: ≈8722 июня: ≈023 июня: ≈024 июня: ≈5425 июня: ≈026 июня: ≈027 июня: ≈7128 июня: ≈029 июня: ≈030 июня: ≈01 июля: ≈02 июля: ≈03 июля: ≈04 июля: ≈05 июля: ≈06 июля: ≈07 июля: ≈08 июля: ≈09 июля: ≈010 июля: ≈011 июля: ≈012 июля: ≈013 июля: ≈014 июля: ≈015 июля: ≈016 июля: ≈017 июля: ≈018 июля: ≈019 июля: ≈020 июля: ≈021 июля: ≈022 июля: ≈023 июля: ≈024 июля: ≈025 июля: ≈026 июля: ≈027 июля: ≈028 июля: ≈029 июля: ≈030 июля: ≈031 июля: ≈01 августа: ≈02 августа: ≈03 августа: ≈04 августа: ≈05 августа: ≈06 августа: ≈07 августа: ≈08 августа: ≈09 августа: ≈010 августа: ≈011 августа: ≈012 августа: ≈013 августа: ≈014 августа: ≈015 августа: ≈016 августа: ≈017 августа: ≈33018 августа: ≈019 августа: ≈15220 августа: ≈021 августа: ≈6022 августа: ≈023 августа: ≈024 августа: ≈025 августа: ≈026 августа: ≈027 августа: ≈028 августа: ≈029 августа: ≈9730 августа: ≈031 августа: ≈1291 сентября: ≈02 сентября: ≈2233 сентября: ≈364 сентября: ≈385 сентября: ≈366 сентября: ≈317 сентября: ≈468 сентября: ≈09 сентября: ≈2110 сентября: ≈5311 сентября: ≈4512 сентября: ≈1813 сентября: ≈1914 сентября: ≈015 сентября: ≈617 июняиюльавгсент

Оценка по выборке GH Archive. Бледные столбцы — дни, история за которые ещё загружается.