FareedKhan-dev /kimi-k3-in-c

Экспериментальный движок на C запускает гигантскую языковую модель Kimi K3 на 2,78 трлн параметров на обычном процессоре без GPU.

Проект реализует инференс модели Kimi K3 (2,78 триллиона параметров) на языке C99 без сторонних библиотек, GPU и фреймворков — программа занимает всего 176 килобайт кода. На обычном ноутбуке с 8 ГБ оперативной памяти модель считает ответ за десятки секунд, при этом результат идентичен на слабом и мощном железе — разница только в скорости. Интересен исследователям и энтузиастам, которые изучают запуск крупных моделей без дорогого оборудования.

Описание автора: A 2.78-trillion-parameter Kimi K3 running inference on a single CPU in 8.24 GB of RAM. Portable C99: no BLAS, no framework, no GPU.

C★ 7 957создан 1 августа 2026форков 1 280Apache-2.0
avx2c99cpu-inferencedeep-learningfrom-scratchinference-enginekimi-k3linear-attention

Открыть на GitHub → Сайт проекта

Сколько звёзд прибавилось

Прирост по дням за 3 месяца

17 июня: ≈018 июня: ≈019 июня: ≈020 июня: ≈021 июня: ≈022 июня: ≈023 июня: ≈024 июня: ≈025 июня: ≈026 июня: ≈027 июня: ≈028 июня: ≈029 июня: ≈030 июня: ≈01 июля: ≈02 июля: ≈03 июля: ≈04 июля: ≈05 июля: ≈06 июля: ≈07 июля: ≈08 июля: ≈09 июля: ≈010 июля: ≈011 июля: ≈012 июля: ≈013 июля: ≈014 июля: ≈015 июля: ≈016 июля: ≈017 июля: ≈018 июля: ≈019 июля: ≈020 июля: ≈021 июля: ≈022 июля: ≈023 июля: ≈024 июля: ≈025 июля: ≈026 июля: ≈027 июля: ≈028 июля: ≈029 июля: ≈030 июля: ≈031 июля: ≈01 августа: ≈02 августа: ≈8053 августа: ≈1 2284 августа: ≈05 августа: ≈06 августа: ≈7077 августа: ≈7698 августа: ≈9579 августа: ≈32210 августа: ≈011 августа: ≈012 августа: ≈013 августа: ≈20514 августа: ≈26315 августа: ≈1 01716 августа: ≈017 августа: ≈018 августа: ≈019 августа: ≈30420 августа: ≈021 августа: ≈022 августа: ≈023 августа: ≈024 августа: ≈025 августа: ≈21826 августа: ≈027 августа: ≈028 августа: ≈28829 августа: ≈030 августа: ≈10531 августа: ≈01 сентября: ≈1302 сентября: ≈1113 сентября: ≈04 сентября: ≈455 сентября: ≈256 сентября: ≈287 сентября: ≈158 сентября: ≈09 сентября: ≈6310 сентября: ≈12311 сентября: ≈6212 сентября: ≈20013 сентября: ≈6214 сентября: ≈2615 сентября: ≈3717 июняиюльавгсент

Оценка по выборке GH Archive. Бледные столбцы — дни, история за которые ещё загружается.