跳转到内容

learn-llm

从 token、attention、训练,到 RAG、Agent、MCP 与前端产品工程

这个教程面向前端研发,目标不是让你只会调用 API,而是理解大模型系统为什么能工作,以及如何把它拆成可以动手验证的小实验。

从原理开始

先用 JavaScript 复现 tokenization、embedding、attention、训练循环和采样,再看成熟项目里的完整实现。

从工程落地

继续实现 RAG、工具调用、Agent、多 Agent、MCP、Skill 和一个 mini ChatGPT 产品骨架。

全中文讲解

专业名词首次出现会解释,代码块附运行命令和预期输出,引用资料都可以点击跳转。

Transformer
GPT 预训练
SFT / LoRA
RLHF / DPO
RAG
Agent / 多 Agent
MCP / Skill
推理模型与前端工程化
Terminal window
npm install
npm run labs
npm test

每章也可以单独运行,例如:

Terminal window
npm run lab:03

本教程以社区成熟项目为主要参考,包括 minGPTnanoGPTbuild-nanogptllm.cHarvard Annotated TransformerLLaMA FactoryTRLLangChain RAG From ScratchLangGraphAutoGensmolagents 等。