跳转至

4. 学习资源推荐

4.1 免费资源(优先使用)

类别 资源 用途
官方文档 NVIDIA GPU Operator、XID 错误、dcgm-exporter、nccl-tests GPU 运维的第一手资料
官方文档 Volcano 中文文档、Kueue、KAI-Scheduler、LeaderWorkerSet K8s AI 调度
官方文档 GPU Operator time-slicing、GPU Operator MIG、k8s-device-plugin、K8s DRA、NVIDIA DRA 驱动 K8s 上的 GPU 共享与分配(阶段 2 重点)
官方文档 NCCL 环境变量、Network Operator NCCL 调优与 K8s 上的 RDMA 网络
官方文档 vLLM、SGLang、TensorRT-LLM、Triton Inference Server、NVIDIA Dynamo 推理引擎
官方教程 PyTorch DDP / FSDP;DeepSpeed、Megatron-LM 分布式训练
NVIDIA DLI 免费课程 An Even Easier Introduction to CUDA;DLI 目录里的“Free Courses”分类(入口)。注意 Introduction to AI in the Data Center 是付费课($49) GPU 入门
Hugging Face LLM Course(免费)、Ultra-Scale Playbook(免费,讲大规模训练并行的最佳读物) AI 常识 + 并行原理
大学课程 Stanford CS336 Language Modeling from Scratch(Spring 2026 视频在 YouTube 公开,第 5–8、10 讲讲 GPU、并行、推理,最值得看);MIT 6.5940 EfficientML(量化、推理优化);Google How to Scale Your Model 系统视角理解 LLM
GitHub 书 / 仓库 stas00/ml-engineering(必读:网络、存储、故障、调试)、chenzomi12/AISystem(ZOMI 的 AI 系统中文课程,配套 B 站视频)、karpathy/nanoGPT、vllm production-stack、llm-d 实战
Bilibili 搜索“ZOMI酱 AI系统”“3Blue1Brown 深度学习”“vLLM 源码解读”“NCCL 原理” 中文视频补充(具体 UP 主频道没有逐一核实,请按关键词搜索)
练习环境 Killercoda(免费的临时 K8s 环境,适合快速验证 GPU 调度相关的配置)、Kaggle(每周 30 小时 GPU)、fake-gpu-operator 零成本动手

4.2 付费资源(低预算,按需选择)

资源 价格 是否值得 来源
极客时间《AI 大模型系统实战》 ¥59(搜索结果显示,以页面为准) 可以买一门,中文体系化补 AI 常识 链接
极客时间《大模型微调实践课》 ¥29(搜索结果显示) 可选,偏算法,非必需 链接
Coursera Plus $59/月 或 $399/年(美国价格) 不推荐:免费的 CS336 和 HF 课程已经够用;如果想要证书,可以只开 1 个月(≈ ¥425) Coursera Plus
Google Colab Pro $9.99/月 可选,国内用 AutoDL 更方便 同上表
NVIDIA DLI 付费课(如 Introduction to AI in the Data Center) 约 $49 可选,可作为 NCA-AIIO 的备考材料 DLI 目录