Бесплатная китаеязычная книга о том, как расчётами предсказывать память, скорость и стоимость работы больших языковых моделей.
«Глубокое понимание AI Infra» — открытая книга о проектировании инфраструктуры для языковых моделей: от архитектуры видеокарт до сетей дата-центров. Автор простыми расчётами объёма памяти и вычислений показывает, как предсказать задержку и стоимость работы модели. В репозитории — текст книги, готовый PDF и расчётные инструменты; это продолжение книги того же автора про ИИ-агентов, набравшей 45 тысяч звёзд на GitHub.
Описание автора:《深入理解 AI Infra:量化分析与系统设计》(李博杰 著)开源书稿:从硬件约束和模型架构出发,量化推导 LLM 推理与训练系统设计。含全书正文、PDF、配套计算工具与实验
Python★ 3 418создан 22 августа 2026форков 233Apache-2.0