TRAINING PERFORMANCE LAB

训练优化

沿着关键路径,优化大模型训练的吞吐、显存与扩展效率。

覆盖并行策略、通信计算重叠、显存治理、数据管线、混合精度、MFU 与长时间训练稳定性,保留实验边界和失败记录。

查看相关性能数据 →
01并行策略
02通信重叠
03显存与精度
04MFU 与稳定性

NOTES FIELD RECORDS

训练优化工程记录

第一篇训练优化记录正在整理。