GitHub-тренды
FareedKhan-dev / train-llm-from-scratch
Набор скриптов и туториал, чтобы обучить собственную языковую модель с нуля на одной видеокарте.
Проект пошагово показывает весь путь создания LLM: подготовка данных, архитектура трансформера на PyTorch, предобучение, генерация текста и дообучение методами SFT, DPO, PPO и другими — вплоть до модели, отвечающей как ассистент. Всё реализовано вручную, без готовых библиотек trl или transformers, есть Streamlit-панель и документация.
Описание автора: A straightforward method for training your LLM, from downloading data to generating text.
★ 9 803 создан 12 января 2025 форков 1 347 MIT
gemini large-language-models llm openai training transformers
Открыть на GitHub → Сайт проекта
Сколько звёзд прибавилось
Без значка — точная разница ежедневных снимков счётчика GitHub, со значком ≈ — оценка по архиву событий.
Точный счётчик GitHub: +178 звёзд с 00:47 16 сентября по 14:20 19 сентября.
Прирост по дням за 3 месяца
21 июня: ≈291 22 июня: ≈0 23 июня: ≈0 24 июня: ≈54 25 июня: ≈45 26 июня: ≈93 27 июня: ≈24 28 июня: ≈0 29 июня: ≈142 30 июня: ≈84 1 июля: ≈37 2 июля: ≈31 3 июля: ≈0 4 июля: ≈0 5 июля: ≈0 6 июля: ≈0 7 июля: ≈0 8 июля: ≈184 9 июля: ≈0 10 июля: ≈0 11 июля: ≈0 12 июля: ≈0 13 июля: ≈0 14 июля: ≈0 15 июля: ≈0 16 июля: ≈0 17 июля: ≈0 18 июля: ≈0 19 июля: ≈0 20 июля: ≈0 21 июля: ≈0 22 июля: ≈0 23 июля: ≈0 24 июля: ≈0 25 июля: ≈0 26 июля: ≈0 27 июля: ≈0 28 июля: ≈0 29 июля: ≈0 30 июля: ≈0 31 июля: ≈0 1 августа: ≈0 2 августа: ≈0 3 августа: ≈0 4 августа: ≈0 5 августа: ≈0 6 августа: ≈0 7 августа: ≈0 8 августа: ≈0 9 августа: ≈0 10 августа: ≈0 11 августа: ≈0 12 августа: ≈0 13 августа: ≈0 14 августа: ≈0 15 августа: ≈0 16 августа: ≈0 17 августа: ≈0 18 августа: ≈0 19 августа: ≈0 20 августа: ≈0 21 августа: ≈0 22 августа: ≈0 23 августа: ≈0 24 августа: ≈0 25 августа: ≈0 26 августа: ≈0 27 августа: ≈0 28 августа: ≈0 29 августа: ≈0 30 августа: ≈0 31 августа: ≈0 1 сентября: ≈0 2 сентября: ≈0 3 сентября: ≈0 4 сентября: ≈7 5 сентября: ≈11 6 сентября: ≈13 7 сентября: ≈0 8 сентября: ≈0 9 сентября: ≈0 10 сентября: ≈0 11 сентября: ≈3 12 сентября: ≈13 13 сентября: ≈12 14 сентября: ≈0 15 сентября: ≈12 16 сентября: ≈0 17 сентября: ≈0 18 сентября: ≈0 19 сентября: ≈156 21 июня июль авг сент
Оценка по выборке GH Archive. Бледные столбцы — дни, история за которые ещё загружается.
