万益资讯网

【陈天奇的新书:揭开Blackwell时代的GPU性能黑盒】XGBoost作者、

【陈天奇的新书:揭开Blackwell时代的GPU性能黑盒】XGBoost作者、CMU教授陈天奇发布了开源新书《Modern GPU Programming For MLSys》。这本书直接瞄准NVIDIA最新的Blackwell架构,核心围绕GEMM和FlashAttention-4的性能极致优化展开。它引入了Python DSL工具TIRx,让开发者能在Python环境下进行接近底层的硬件控制,系统性地讲解了TMA异步数据传输、Tensor Core调度以及mbarriers异步协作等前沿技术。现在的AI竞争已经从模型架构卷到了算子效率。当大部分工程师还在苦等框架更新算子库时,顶尖玩家已经在直接操控硬件底层的异步流水线了。这本书的价值在于把极其晦涩的GPU硬件原语,通过一套可运行的抽象逻辑讲透了。它不是在教你写简单的代码,而是在教你如何构建现代算力系统的物理直觉,这正是决定大模型推理成本和训练速度的深层命门。 ml.ai/modern-gpu-programming-for-mlsys/