Набор Python-скриптов, которые читают заголовок GGUF-файла модели ИИ по сети, не скачивая файл целиком.
gguf-head запрашивает только первые мегабайты файла модели формата GGUF (используется в LM Studio, llama.cpp и подобных) через HTTP-запрос части файла и выводит название модели, лицензию, размер контекста, список токенов и шаблон чата. Так можно узнать параметры многогигабайтной модели, скачав всего около 40 МБ. Скрипты не требуют сторонних библиотек, кроме Python 3, и созданы для учебного курса по ИИ.
Описание автора:Read what is written at the top of a GGUF model file, without downloading it. From Cyberiad Labs' Introduction to AI and LLMs.