Движок на C для запуска гигантских ИИ-моделей (сотни миллиардов — триллионы параметров) на обычном компьютере без спецоборудования.
Colibrì подгружает части модели с диска по мере необходимости, используя память видеокарты, оперативную память и диск как единую иерархию хранения. Поддерживает девять семейств моделей размером от 125 до 2800 миллиардов параметров через общую командную строку или веб-интерфейс. Позиционируется как исследовательская платформа: скорость не гарантируется, но точность модели не подменяется втихую.
Описание автора:Run frontier MoE models on hardware you already own — pure C, zero deps, experts streamed from disk. Tiny engine, immense model. 🐦
