Module 1 · 90min
Linux 基础与容器技术入门
怎么把应用和 GPU 驱动打包在一起？Namespace · Cgroup · OverlayFS
Bash ×4
无 GPU
Module 2 · 90min
GPU 硬件架构与 CUDA 编程入门
GPU 为什么比 CPU 快 100 倍？CUDA 线程 → Shared Memory Tiling
CUDA C ×4
需要 GPU
Module 2b · ~18min
GPU 内存管理 (高级)
Pinned 55 GB/s vs Pageable 21 GB/s — 2.7× 的 DMA 带宽差距
Python + CUDA C
需要 GPU
Module 3 · 90min
GPU 虚拟化与容器化实践
一张 A100 怎么分给 10 个人？60 行 C 代码演示 HAMi LD_PRELOAD 原理
C ×2
无 GPU
Module 4 · 120min
Kubernetes 入门与 GPU 工作负载调度
100 台 GPU 服务器怎么管？kubectl apply 背后 7 步全链路
YAML ×3
GPU 推荐
Module 5 · 120min
大模型推理框架入门：以 vLLM 为例
为什么推理要分 Prefill 和 Decode 两阶段？nano-vllm 源码走读 Scheduler + PagedAttention
nano-vllm
需要 GPU
Module 6 · 90min
大模型推理加速实践：KV Cache 原理与优化
显存不够怎么办？量化 · Offloading · GQA/MLA · Prefix Caching
Python ×2
GPU 推荐
Module 7 · 90min
从推理引擎到服务平台
1000 用户 · 10 模型 · SLA 99.9% — DeepSeek V3 EP=32 部署案例
Flask 网关
无 GPU
Module 8 · 90min
课程总结与 AI Infra 前沿展望
7 模块串联 + Agent Infra + 大作业三选一 (骨架代码 90+ TODOs)
骨架代码
无 GPU