MakazhanAlpamys /Soup

Инструмент для дообучения языковых моделей одной командой из файла настроек — работает даже на слабой видеокарте ноутбука.

Soup упрощает процесс дообучения (fine-tuning) больших языковых моделей: вместо сложной настройки серверов и окружения достаточно одного YAML-файла с параметрами и одной команды. Ключевая технология — «потоковая передача слоёв», позволяющая обучать модель на 8 миллиардов параметров на видеокарте всего с 4 ГБ памяти, подгружая по одному слою модели за раз. Авторы приводят замеры скорости на реальном оборудовании (ноутбучная RTX 3050 и серверный H100).

Описание автора: Fine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.

Python★ 6 618создан 20 февраля 2026форков 1 037Apache-2.0
pythonfine-tuningggufhuggingfacellmloraollamapeft

Открыть на GitHub → Сайт проекта

Сколько звёзд прибавилось

Прирост по дням за 3 месяца

17 июня: ≈018 июня: ≈019 июня: ≈020 июня: ≈021 июня: ≈022 июня: ≈023 июня: ≈024 июня: ≈025 июня: ≈4526 июня: ≈027 июня: ≈028 июня: ≈029 июня: ≈030 июня: ≈01 июля: ≈02 июля: ≈03 июля: ≈04 июля: ≈05 июля: ≈06 июля: ≈07 июля: ≈08 июля: ≈09 июля: ≈010 июля: ≈011 июля: ≈012 июля: ≈013 июля: ≈014 июля: ≈015 июля: ≈016 июля: ≈017 июля: ≈018 июля: ≈019 июля: ≈020 июля: ≈021 июля: ≈022 июля: ≈023 июля: ≈024 июля: ≈025 июля: ≈026 июля: ≈027 июля: ≈028 июля: ≈029 июля: ≈030 июля: ≈031 июля: ≈01 августа: ≈02 августа: ≈03 августа: ≈04 августа: ≈2835 августа: ≈06 августа: ≈07 августа: ≈218 августа: ≈09 августа: ≈010 августа: ≈011 августа: ≈19712 августа: ≈26013 августа: ≈20514 августа: ≈39415 августа: ≈016 августа: ≈46217 августа: ≈33018 августа: ≈019 августа: ≈30420 августа: ≈021 августа: ≈17922 августа: ≈023 августа: ≈024 августа: ≈32925 августа: ≈026 августа: ≈39727 августа: ≈13228 августа: ≈029 августа: ≈38930 августа: ≈52431 августа: ≈1291 сентября: ≈3892 сентября: ≈5573 сентября: ≈4734 сентября: ≈1645 сентября: ≈1436 сентября: ≈1147 сентября: ≈1398 сентября: ≈1089 сентября: ≈12610 сентября: ≈10611 сентября: ≈8112 сентября: ≈13313 сентября: ≈11214 сентября: ≈7915 сентября: ≈16517 июняиюльавгсент

Оценка по выборке GH Archive. Бледные столбцы — дни, история за которые ещё загружается.