Программа, которая проверяет, потянет ли ваш компьютер конкретную открытую нейросеть, и подбирает подходящие модели.
llmfit анализирует процессор, память, видеокарту и другие характеристики компьютера и подсказывает, какие открытые языковые модели (и в каком сжатом формате) на нём реально запустятся. Есть встроенный тест скорости работы модели на реальном железе, результаты которого можно отправить в общий проект — так база рекомендаций пополняется реальными, а не расчётными данными. Доступны терминальный интерфейс, веб-панель и API для интеграции в другие инструменты.
Описание автора:Hundreds of models & providers. One command to find what runs on your hardware.
