CUTLASS 与 CuTe：原理、编程与优化

把原理、代码与性能联系起来

编写一个 GPU Kernel，需要把数学计算、数据布局和硬件执行联系起来：一个元素存在哪里，由哪个线程处理，通过什么指令搬运和计算，又在什么时候可以安全地读取或覆盖？CUTLASS 与 CuTe 编程中的许多问题，都可以沿着这些关系逐步拆解。

本系列从矩阵存储与坐标映射出发，介绍 Tuple、Layout 和布局代数的数学基础，并将定义与推导对应到 CuTe 的类型、API 和代码示例。随后进入 Tensor、数据划分、Copy、MMA 与 Swizzle，结合 Ampere、Hopper 和 Blackwell 的硬件机制，解释数据如何在各级存储之间流动，计算如何分配给线程与协作单元。

在此基础上，我们将逐步组织完整的 GEMM Kernel，理解流水线、同步与输出阶段，再进入 CUTLASS 的模板接口、组件组装、调度策略与自定义实现。最后，通过 FP8、MXFP8 等优化案例，讨论如何发现瓶颈、选择配置、验证修改，并追踪性能收益能否体现到真实模型中。

贯穿整个系列的目标，是把原理为什么成立、API 如何使用、代码怎样编写、性能如何分析讲清楚。数学推导、图示、代码和实验各自承担一部分解释，让读者能够从理解一个布局，逐步走向独立实现和优化一个计算任务。

建议具备基本的 C++ 和矩阵运算知识；进入 Kernel 编程部分时，还需要基本的 CUDA 编程知识。