AI Infra这个岗位，说穿了就是给大模型搭台子。它横跨好几个技术栈，门槛不低，但回报也匹配得上。
- 编程语言是基本功，但光有Python不够，C++和CUDA才是硬通货
- 分布式训练：从"能跑"到"跑得省"
- 推理优化：现在最卷、也最缺人的地方
- 底层系统：容易被忽视，但决定天花板
- 工程化与平台能力：从脚本到产品
一期课程聚焦AI Infra岗位的大模型训练优化方向，在本门课程中，您将学到：
- 手写CUDA Kernel：CUDA/Triton算子开发
- 分布式并行策略
- 显存ZeRO（零冗余优化）
- 集合通信与NCCL的深度调优
- 大模型训练的系统架构与高可用
- 长上下文训练
- 国产芯片适配与异构计算
通过本期课程，您将掌握三个实用的大模型训练实战项目
- 项目一：基于DeepSpeed/Megatron完成一个7B模型的分布式训练
- 项目二：对训练任务进行端到端的性能分析并优化至目标MFU
- 项目三：模拟千卡集群场景下的通信瓶颈分析与优化方案设计
课程目录：
模块一：大模型训练概览与基础
第0课：大厂AI Infra岗位技术要求
第1课：大模型训练的时代背景与挑战
第2课：训练硬件基础与性能指标
第3课：PyTorch训练基础与性能分析
模块二：分布式并行策略
第4课：数据并行（Data Parallelism）
第5课：模型并行（Model Parallelism）
第6课：混合并行（Hybrid Parallelism）
第7课：专家并行（Expert Parallelism）与MoE训练
模块三：分布式通信与网络优化
第8课：集合通信原语（Collective Communication）
第9课：NCCL深度剖析与调优
第10课：大规模集群通信优化
模块四：显存优化——在有限显存中训练超大模型
第11课：大模型显存占用分析
第12课：ZeRO（零冗余优化器）原理与实战
第13课：激活值重计算（Activation Recomputation）
第14课：CPU/NPU卸载（Offloading）
模块五：计算与精度优化
第15课：混合精度训练（Mixed Precision Training）
第16课：算子融合（Kernel Fusion）与图优化
第17课：CUDA/Triton算子开发入门
模块六：数据与I/O优化
第18课：高效数据加载与预处理
第19课：数据存储与格式优化
模块七：训练稳定性与可观测性
第20课：训练稳定性保障
第21课：训练可观测性体系建设
.......
完整目录详见截图
