从零构建推理模型：11小时PyTorch实战课程

课程概览

知名 AI 研究者 Sebastian Raschka 近日发布了一套完整的推理模型（Reasoning Model）从零构建视频课程，共 八集、超过 11 小时的编码实战内容。课程以 Python 和 PyTorch 为工具链，从一个预训练的小型 Qwen3 模型出发，逐步实现评估、推理时扩展、强化学习以及知识蒸馏等关键方法。

这套课程可以看作他去年《从零构建大语言模型》的续作，但无需先修前置课程即可独立观看。

推理模型是什么？

在深入课程之前，有必要厘清几个概念。推理模型本质上是对传统 LLM 的一次升级——通过基于可验证奖励的强化学习（RLVR）进行额外后训练，并可选地引入推理时扩展技术，使其能够解决更复杂的数学、代码等问题，且能力可泛化到其他领域。

推理模型与 AI Agent 的关系可以这样理解：推理模型是引擎，而 Agent 框架是围绕引擎的机械结构，负责上下文管理和工具调用。Agent 可以使用传统 LLM 或推理模型，但后者是更主流的选择，因为能力更强。当前几乎所有新一代 LLM 都已内置推理模式或提供可调推理力度。

课程核心模块

课程围绕四个关键技术展开：

• 模型评估：建立量化指标体系，衡量推理模型在数学、代码等任务上的表现
• 推理时扩展：通过增加推理步数或并行采样来提升解题能力
• 强化学习：用可验证奖励信号训练模型，这是推理模型区别于传统 LLM 的核心环节
• 知识蒸馏：将大模型的推理能力压缩到小模型中

适合谁学？

课程的前置要求是熟悉 PyTorch 基本操作。如果你已经能读懂 PyTorch 代码、理解 Transformer 架构，那么这套课程会非常有价值。它特别适合以下几类人群：

• 想深入理解推理模型内部机制的研究者
• 希望在实际项目中实现或微调推理能力的工程师
• 对 RLVR、推理时扩展等前沿技术感兴趣的 AI 从业者

课程从一个小型预训练模型出发，而非从零训练，这样可以把精力集中在真正有趣的部分——如何评估和改进模型。Raschka 在课程中强调，用 PyTorch 从零实现是理解底层原理的最佳方式。

配套资源

这套视频课程是 Raschka 推理模型系列的一部分，他还提供了配套的《从零构建推理模型》书籍、《从零构建大语言模型》书籍及视频，以及关于编码 Agent 组件的专题文章。这些资源共同构成了一个从基础 LLM 到推理模型再到 Agent 系统的完整学习路径。

课程托管于 Raschka 的 Ahead of AI 平台，感兴趣的读者可以直接前往观看。