Skip to content

A PERSONAL LAB FOR LANGUAGE MODELS

从第一个预测,
到自己的语言模型。

把一句话变成数字,让模型从数据中学习。
从小实验走向 Transformer,再把理解带进真实应用。

中文教程 · Python / PyTorch · 从 CPU 开始

00

START HERE · 已开放 01 课

建立可复现的实验环境

确认“正在运行哪一个 Python、依赖放在哪里、怎样重复一次小实验”。之后模型输出有变化时,我们才有依据区分代码修改、数据变化、随机过程和环境差异。

打开讲义

THE LEARNING PATH

先实现模型,再构建应用。

七个阶段,一条完整的学习路径。
课程随学习逐步展开。

01

基础与实验环境

把数学表达变成可检查的计算

已有课程
02

最小语言模型

从文本得到下一个 token 的预测

路线规划
03

Transformer

让预测有选择地使用上下文

路线规划
04

训练与推理

让实验可恢复、可比较、可测量

路线规划
05

预训练模型、微调与评估

理解从基础模型到可用助手的变化

路线规划
06

检索增强应用

让回答使用可追溯的外部资料

路线规划
07

工具调用与 Agent

让模型在受控流程中完成多步任务

路线规划
查看各阶段的内容与验收里程碑

HOW WE LEARN

把“我懂了”,
变成可以验证的证据。

教材、实验和学习笔记一起推进。
错误的预测,也值得保留。

  1. 01

    理解与预测

    先讲清概念,用小例子推导运行结果。

  2. 02

    动手与观察

    完成一个贯穿实验,检查实际输出与边界。

  3. 03

    解释与复盘

    对照预测,留下自己的解释和新的问题。

FIELD NOTES学习记录

把预测、实验结果与追问留在一起。

THE BOOKSHELF参考资料

按当前课程选读,连接实现与原始资料。

先理解,再实现;每个结论,都留下一条可重复的证据。