GitHub-тренды
GeeeekExplorer / nano-vllm
Компактная реализация системы быстрого запуска больших языковых моделей на Python объёмом около 1200 строк кода.
Nano-vLLM — облегчённая версия популярного движка vLLM для инференса (использования) больших языковых моделей, написанная с нуля на Python. Несмотря на компактность, по скорости сопоставима с оригинальным vLLM за счёт оптимизаций вроде кэширования и параллелизма вычислений. Подходит разработчикам, которым нужен простой для понимания код запуска LLM.
Описание автора: Nano vLLM
Python★ 15 525 создан 9 июня 2025 форков 2 621 MIT
inference llm pytorch transformer deep-learning nlp
Открыть на GitHub →
Сколько звёзд прибавилось
Без значка — точная разница ежедневных снимков счётчика GitHub, со значком ≈ — оценка по архиву событий.
Точный счётчик GitHub: +74 звезды с 00:33 16 сентября по 05:20 20 сентября.
Прирост по дням за 3 месяца
22 июня: ≈63 23 июня: ≈0 24 июня: ≈0 25 июня: ≈45 26 июня: ≈0 27 июня: ≈0 28 июня: ≈0 29 июня: ≈71 30 июня: ≈0 1 июля: ≈0 2 июля: ≈0 3 июля: ≈0 4 июля: ≈0 5 июля: ≈0 6 июля: ≈0 7 июля: ≈0 8 июля: ≈0 9 июля: ≈0 10 июля: ≈0 11 июля: ≈0 12 июля: ≈0 13 июля: ≈0 14 июля: ≈0 15 июля: ≈134 16 июля: ≈0 17 июля: ≈0 18 июля: ≈0 19 июля: ≈0 20 июля: ≈0 21 июля: ≈0 22 июля: ≈0 23 июля: ≈0 24 июля: ≈0 25 июля: ≈0 26 июля: ≈0 27 июля: ≈0 28 июля: ≈0 29 июля: ≈0 30 июля: ≈0 31 июля: ≈0 1 августа: ≈488 2 августа: ≈0 3 августа: ≈0 4 августа: ≈0 5 августа: ≈0 6 августа: ≈0 7 августа: ≈42 8 августа: ≈0 9 августа: ≈0 10 августа: ≈0 11 августа: ≈0 12 августа: ≈0 13 августа: ≈0 14 августа: ≈0 15 августа: ≈0 16 августа: ≈0 17 августа: ≈0 18 августа: ≈0 19 августа: ≈0 20 августа: ≈0 21 августа: ≈0 22 августа: ≈0 23 августа: ≈0 24 августа: ≈0 25 августа: ≈0 26 августа: ≈0 27 августа: ≈0 28 августа: ≈0 29 августа: ≈0 30 августа: ≈0 31 августа: ≈0 1 сентября: ≈0 2 сентября: ≈0 3 сентября: ≈0 4 сентября: ≈0 5 сентября: ≈14 6 сентября: ≈21 7 сентября: ≈15 8 сентября: ≈0 9 сентября: ≈21 10 сентября: ≈9 11 сентября: ≈6 12 сентября: ≈18 13 сентября: ≈6 14 сентября: ≈0 15 сентября: ≈6 16 сентября: ≈7 17 сентября: ≈0 18 сентября: ≈41 19 сентября: ≈79 20 сентября: ≈58 22 июня июль авг сент
Оценка по выборке GH Archive. Бледные столбцы — дни, история за которые ещё загружается.