Skip to content

参考资料怎么用 ​

资料按当前课程选读,不要求先看完再动手。讲义应链接具体相关章节,并解释阅读目的。

资料用途
Python 3.12 教程补充函数、列表、模块、异常和文件操作等必要语法
uv 项目指南解释项目环境、依赖声明、锁文件和运行命令
PyTorch Basics张量、自动求导、训练循环和模型保存的官方入门
动手学深度学习结合可运行例子补齐线性代数、概率、优化和神经网络
Neural Networks: Zero to Hero从梯度与字符模型走向 GPT,作为实现与讲解参照
Stanford CS336: Language Modeling from Scratch在具备基础后深入分词、Transformer、训练系统与数据处理
Attention Is All You Need阅读注意力和 Transformer 的原始设计;注意原论文含 encoder 与 decoder,和本课 decoder-only 模型有区别
Hugging Face LLM Course在自制小模型之后学习预训练模型、分词与微调生态

模型 API、检索和工具调用的参考资料在实际选定组件时加入,随课程使用版本核对。

先理解,再实现;每个结论,都留下一条可重复的证据。