EXPERIMENT MAP
你会完成什么
每一组实验都有清楚的输入、验收标准和可保留的运行证据。
CHAPTER 06基础
PyTorch 图像分类
从数据检查、CNN 和训练曲线开始,完成 checkpoint 保存与重新加载推理。
查看第 6 章 →CHAPTERS 07–09连续项目
文本到 mini-GPT
建立字符 tokenizer、因果注意力和 Transformer,继续完成生成与指令式训练。
从第 7 章开始 →CHAPTER 10真实工具链
Embedding + FAISS + RAG
完成文档切块、真实向量模型、索引、带来源回答与检索效果评估。
查看第 10 章 →CHAPTER 14工程交付
推理服务、评估与监控
运行 FastAPI 服务、离线门禁、滚动监控、告警和回滚判断。
查看第 14 章 →CHAPTER 09需要网络
Hugging Face 工具链
理解 Hub revision、Tokenizer、小模型生成和运行 manifest 的基本工作流。
查看第 9 章 →CHAPTERS 09 / 14进阶 GPU
QLoRA 与推理优化
审计 4-bit + LoRA 方案与偏好数据,记录 p50/p95、tokens/s 和逐变量实验。
查看部署与评估 →ENGINEERING EXTENSIONS
把工程关键环节补齐
这些补充实验都能先在 浏览器在线实验台运行,再下载同一逻辑的完整脚本留证。
CHAPTER 09安全边界
Agent / MCP 工具契约
从工具目录、输入 schema、白名单到不可信工具结果,先建立能审计的调用边界。
下载实验脚本 →CHAPTER 14标准评测
lm-eval 可复现基线
固定模型 revision、任务集和样本限制;先生成计划,安装评测框架后才实际执行。
下载实验脚本 →CHAPTER 14分布式
DDP + Distributed Checkpoint
用 torchrun 完成多进程训练、保存和恢复;CPU 可用 gloo,GPU 可切换 nccl。
下载实验脚本 →CHAPTER 14可观测性
vLLM Prometheus 指标
先用离线 fixture 解释队列、缓存和延迟,再连接真实服务的 /metrics。
FIRST RUN
从一次可验证的运行开始
默认路径优先使用小数据和短训练;理解流程后再扩大规模。
安装与验证
推荐 Python 3.11 或 3.12。在实验包解压后的目录中执行:
python -m venv .venv .\.venv\Scripts\Activate.ps1 python -m pip install --upgrade pip python -m pip install -r requirements.lock python run_all_tests.py
运行边界:第 6 章默认使用离线合成数字图;第 10 章首次运行会下载嵌入模型。QLoRA 与对齐脚本默认只输出计划和审计数据,不会悄悄启动 GPU 训练。