←返回学习资料
个人站可复现实验仓库

RUNNABLE LABS · CHAPTERS 06–14

把知识变成
可运行的实验

这是一条可以从头运行、测试并继续修改的学习路径。每个核心实验同时提供 Notebook、普通 Python 脚本、自动测试与参考答案,避免把学习停在“看懂了”这一步。

CORE LABS10 组覆盖第 6~14 章
DELIVERY4 种Notebook、脚本、测试、答案
DEFAULT PATHCPU先用小数据验证流程
ADVANCEDGPU / 服务分布式、评测、推理指标

EXPERIMENT MAP

你会完成什么

每一组实验都有清楚的输入、验收标准和可保留的运行证据。

CHAPTER 06基础

PyTorch 图像分类

从数据检查、CNN 和训练曲线开始,完成 checkpoint 保存与重新加载推理。

查看第 6 章 →
CHAPTERS 07–09连续项目

文本到 mini-GPT

建立字符 tokenizer、因果注意力和 Transformer,继续完成生成与指令式训练。

从第 7 章开始 →
CHAPTER 10真实工具链

Embedding + FAISS + RAG

完成文档切块、真实向量模型、索引、带来源回答与检索效果评估。

查看第 10 章 →
CHAPTER 14工程交付

推理服务、评估与监控

运行 FastAPI 服务、离线门禁、滚动监控、告警和回滚判断。

查看第 14 章 →
CHAPTER 09需要网络

Hugging Face 工具链

理解 Hub revision、Tokenizer、小模型生成和运行 manifest 的基本工作流。

查看第 9 章 →
CHAPTERS 09 / 14进阶 GPU

QLoRA 与推理优化

审计 4-bit + LoRA 方案与偏好数据,记录 p50/p95、tokens/s 和逐变量实验。

查看部署与评估 →

ENGINEERING EXTENSIONS

把工程关键环节补齐

这些补充实验都能先在 浏览器在线实验台运行,再下载同一逻辑的完整脚本留证。

CHAPTER 09安全边界

Agent / MCP 工具契约

从工具目录、输入 schema、白名单到不可信工具结果,先建立能审计的调用边界。

下载实验脚本 →
CHAPTER 14标准评测

lm-eval 可复现基线

固定模型 revision、任务集和样本限制;先生成计划,安装评测框架后才实际执行。

下载实验脚本 →
CHAPTER 14分布式

DDP + Distributed Checkpoint

用 torchrun 完成多进程训练、保存和恢复;CPU 可用 gloo,GPU 可切换 nccl。

下载实验脚本 →
CHAPTER 14可观测性

vLLM Prometheus 指标

先用离线 fixture 解释队列、缓存和延迟,再连接真实服务的 /metrics。

下载实验脚本 →

FIRST RUN

从一次可验证的运行开始

默认路径优先使用小数据和短训练;理解流程后再扩大规模。

安装与验证

推荐 Python 3.11 或 3.12。在实验包解压后的目录中执行:

python -m venv .venv
.\.venv\Scripts\Activate.ps1
python -m pip install --upgrade pip
python -m pip install -r requirements.lock
python run_all_tests.py
运行边界:第 6 章默认使用离线合成数字图;第 10 章首次运行会下载嵌入模型。QLoRA 与对齐脚本默认只输出计划和审计数据,不会悄悄启动 GPU 训练。