NVIDIA / cutlass

Problem: 开发者需要实现特定数据格式（如混合精度、窄整数）的高性能矩阵乘法，但直接编写CUDA代码复杂且难以优化。

Solution: 使用CUTLASS的C++模板库，通过组合预定义的模块化组件（如tiling策略、数据搬运抽象），快速构建针对特定硬件（如Tensor Core）优化的GEMM内核。

Example: 为推理引擎实现INT4权重的矩阵乘法，利用CUTLASS对窄整数类型的支持，快速组装出在Ampere架构上高效运行的内核。

Problem: 研究人员想验证新的线性代数算法（如特殊分解或稀疏计算）在GPU上的性能，但底层CUDA编程门槛高、编译慢。

Solution: 使用CUTLASS 4新增的CuTe DSL（Python接口），用更直观的语法描述计算和数据布局，无需深入C++即可快速编写和测试高性能CUDA内核。

Example: 在Hopper GPU上尝试一种新的混合精度（FP16累加到FP32）卷积算法，用CuTe DSL几天内完成原型和性能评测，而传统方式可能需要数周。

Problem: 深度学习框架（如PyTorch）缺少某个专用算子（如基于MXFP8数据类型的注意力计算），需要高性能实现且易于集成。

Solution: 用CuTe DSL编写算子内核，它天然支持与DL框架交互，无需编写胶水代码，编译出的高效CUDA内核可直接被框架调用。

Example: 为大型语言模型添加支持OCP标准MXFP4数据类型的线性层，用CuTe DSL实现内核并封装为PyTorch扩展，显著降低部署内存。

Problem: 学生或新手想理解GPU上高性能矩阵计算的核心概念（如层次化分解、数据搬运），但纯CUDA示例过于底层和冗长。

Solution: 利用CUTLASS良好抽象的C++组件或更友好的CuTe DSL，通过修改参数（如分块大小、数据布局）来直观学习不同优化策略的影响。

Example: 在课程实验中，让学生用CuTe DSL调整GEMM的Tile大小和Shared Memory使用，观察性能变化，从而理解GPU内存层次的作用。