drumih /turbo-fieldfare

Программа, позволяющая запускать крупную языковую модель Gemma на Mac с всего 8 ГБ оперативной памяти.

TurboFieldfare — среда на Swift и Metal, которая запускает 26-миллиардную модель Gemma на Apple Silicon Mac, не загружая всю модель весом 14 ГБ в память сразу. Нужные части модели подгружаются с диска по ходу работы, что позволяет уместиться примерно в 2 ГБ оперативной памяти. Проект написан с нуля под конкретную модель, а не является обёрткой над существующими движками.

Описание автора: Gemma 4 26B-A4B inference in ~2 GB of RAM on any M-series MacBook

Swift★ 6 738создан 17 июля 2026форков 427Apache-2.0
gemmagpgpullmlocal-aimacosmetalon-device-aiswift

Открыть на GitHub →

Сколько звёзд прибавилось

Прирост по дням за 3 месяца

17 июня: ≈018 июня: ≈019 июня: ≈020 июня: ≈021 июня: ≈022 июня: ≈023 июня: ≈024 июня: ≈025 июня: ≈026 июня: ≈027 июня: ≈028 июня: ≈029 июня: ≈030 июня: ≈01 июля: ≈02 июля: ≈03 июля: ≈04 июля: ≈05 июля: ≈06 июля: ≈07 июля: ≈08 июля: ≈09 июля: ≈010 июля: ≈011 июля: ≈012 июля: ≈013 июля: ≈014 июля: ≈015 июля: ≈016 июля: ≈017 июля: ≈018 июля: ≈019 июля: ≈020 июля: ≈021 июля: ≈38722 июля: ≈023 июля: ≈024 июля: ≈025 июля: ≈026 июля: ≈027 июля: ≈028 июля: ≈029 июля: ≈60130 июля: ≈89131 июля: ≈9011 августа: ≈9752 августа: ≈2 0123 августа: ≈04 августа: ≈5655 августа: ≈06 августа: ≈07 августа: ≈628 августа: ≈969 августа: ≈010 августа: ≈011 августа: ≈19712 августа: ≈13013 августа: ≈014 августа: ≈015 августа: ≈016 августа: ≈017 августа: ≈33018 августа: ≈13619 августа: ≈020 августа: ≈021 августа: ≈022 августа: ≈023 августа: ≈024 августа: ≈025 августа: ≈026 августа: ≈19827 августа: ≈028 августа: ≈029 августа: ≈030 августа: ≈031 августа: ≈01 сентября: ≈1302 сентября: ≈03 сентября: ≈364 сентября: ≈75 сентября: ≈176 сентября: ≈217 сентября: ≈08 сентября: ≈09 сентября: ≈010 сентября: ≈911 сентября: ≈1312 сентября: ≈2213 сентября: ≈614 сентября: ≈2615 сентября: ≈017 июняиюльавгсент

Оценка по выборке GH Archive. Бледные столбцы — дни, история за которые ещё загружается.