| 官方文档 |
NVIDIA GPU Operator、XID 错误、dcgm-exporter、nccl-tests |
GPU 运维的第一手资料 |
| 官方文档 |
Volcano 中文文档、Kueue、KAI-Scheduler、LeaderWorkerSet |
K8s AI 调度 |
| 官方文档 |
GPU Operator time-slicing、GPU Operator MIG、k8s-device-plugin、K8s DRA、NVIDIA DRA 驱动 |
K8s 上的 GPU 共享与分配(阶段 2 重点) |
| 官方文档 |
NCCL 环境变量、Network Operator |
NCCL 调优与 K8s 上的 RDMA 网络 |
| 官方文档 |
vLLM、SGLang、TensorRT-LLM、Triton Inference Server、NVIDIA Dynamo |
推理引擎 |
| 官方教程 |
PyTorch DDP / FSDP;DeepSpeed、Megatron-LM |
分布式训练 |
| NVIDIA DLI |
免费课程 An Even Easier Introduction to CUDA;DLI 目录里的“Free Courses”分类(入口)。注意 Introduction to AI in the Data Center 是付费课($49) |
GPU 入门 |
| Hugging Face |
LLM Course(免费)、Ultra-Scale Playbook(免费,讲大规模训练并行的最佳读物) |
AI 常识 + 并行原理 |
| 大学课程 |
Stanford CS336 Language Modeling from Scratch(Spring 2026 视频在 YouTube 公开,第 5–8、10 讲讲 GPU、并行、推理,最值得看);MIT 6.5940 EfficientML(量化、推理优化);Google How to Scale Your Model |
系统视角理解 LLM |
| GitHub 书 / 仓库 |
stas00/ml-engineering(必读:网络、存储、故障、调试)、chenzomi12/AISystem(ZOMI 的 AI 系统中文课程,配套 B 站视频)、karpathy/nanoGPT、vllm production-stack、llm-d |
实战 |
| Bilibili |
搜索“ZOMI酱 AI系统”“3Blue1Brown 深度学习”“vLLM 源码解读”“NCCL 原理” |
中文视频补充(具体 UP 主频道没有逐一核实,请按关键词搜索) |
| 练习环境 |
Killercoda(免费的临时 K8s 环境,适合快速验证 GPU 调度相关的配置)、Kaggle(每周 30 小时 GPU)、fake-gpu-operator |
零成本动手 |