斯坦福CME295大模型公开课全公开 9节课覆盖Transformer到Agent全链路
又发现一门大模型学习的好课: 斯坦福 CME295《Transformers & Large Language Models》
讲师是 Afshine 和 Shervine Amidi 兄弟 就是做斯坦福那套 cheatsheet 的两位
这门课的好处是完整: 从 Transformer 一路讲到推理模型和 Agent 9 节课,一节不到两个小时
课表: 1. Transformer:分词、词向量、注意力、整体结构 2. Transformer 的变体与技巧:MHA / MQA / GQA、RoPE、BERT 3. 大模型:MoE、采样、上下文学习、思维链 4. 训练:预训练、量化、SFT、LoRA 5. 对齐:RLHF、奖励模型、PPO、DPO 6. 推理模型:强化学习练推理、GRPO 7. Agent:RAG、函数调用、ReAct 8. 评估:LLM 当裁判、偏差与坑 9. 当前趋势
2025 年秋季那一期已经全部公开: 录像、课件、期中期末考题和答案都有 今年秋季正在上新一期 录像同步发在 Stanford Online 的 YouTube 频道
适合的人: 想把大模型从原理到训练、对齐、Agent 串成一条线的人 有一点微积分、线性代数和机器学习基础就够了