Работа студенческого конкурса математического моделирования в Китае о распределении вычислений для обучения языковых моделей.
Проект — решение задачи китайского конкурса математического моделирования Huawei Cup 2026 года: как при ограниченном бюджете вычислений распределять ресурсы на обучение больших языковых моделей. Строит модели качества данных, законы масштабирования и оптимизацию бюджета, а также разбирает, за счёт чего растут возможности открытых моделей — размера или прогресса технологий. Это академическая работа, а не готовый инструмент.
Описание автора:算力约束下提升大语言模型能力的资源配置建模。涵盖数据质量综合评价与质量冲突消解、17 领域配比-损失定量建模、含 N/D/Q/p 的广义标度律与弹性分析、算力预算(10¹⁹–10²⁴ FLOPs)下训练/质量/长上下文三类开销的联合优化与结构性转移识别,以及开源大模型能力演进的规模扩张/技术进步贡献分解与前沿预测。