Nvidia 的开放模型棋局:教大家自己炼 Token

开源模型与 Linux 的类比,为何不成立?
技术圈里最常被提起的类比,就是把当下开放模型的发展比作当年 Linux 操作系统的崛起。这个类比听起来顺理成章,但仔细推敲,会发现它给开源模型生态描绘的路径过于狭窄。Linux 一旦壮大,就会因为“足够好用”而自我强化,成为无数场景下的默认选择。但大语言模型的情况要复杂得多。
我们需要区分两类“开放”:开源模型(open-source model)指的是完整公开训练配方、数据、代码的模型,这更像 Linux 这样的开源操作系统;而开放权重模型(open-weight model)只公开权重和推理代码,更像是你项目里安装的某个特定软件版本。绝大多数人日常使用的 Llama 3,就属于后者。
权重会过时,配方才是资产
模型权重本身是相当短暂的——今天的最优解,几个月后可能就被超越。但它的“保质期”其实比很多人想象中长,就像很多被重度依赖的软件版本一样。这也是为什么即便 agentic 应用已经流行了好几年,仍有大量公司的工作流建立在 Llama 3 之上。
真正更有长期价值的是开源配方(open recipe)。以 Ai2 的 Olmo 模型为代表,包括 EleutherAI 的 Pythia 等前辈,这些项目把训练数据、数据清洗逻辑、训练代码全部公开。任何公司都可以拿起这套配方,按需修改,然后按下“运行”按钮,产出一套全新的模型权重。更理想的情况是,社区还能把改进后的数据或训练代码回馈给下一个版本,形成正向循环。
Nvidia 的算盘:让智能不被垄断
Nvidia 之所以在近乎开源的模型上投入巨大,正是看中了这一点。他们的 Nemotron 系列模型,在法律允许的范围内公开了所有数据、训练代码等。Nvidia 想要的是一个“人人都能造 Token 机器”的世界——如果智能不被少数公司垄断,那么就会有无数公司需要推理算力,而它们都得向 Nvidia 购买芯片。
据报道,Nvidia 在这个方向上已经投入了 260 亿美元。这显然不是慈善,而是一笔商业投资:如果开源配方奏效,Nvidia 创造的芯片需求将远超模型的研发成本。
两种未来:财务正循环还是长尾分化?
开源 AI 的未来并不明朗,因为训练顶级模型的资本门槛极高。不过,产业界构建有竞争力模型的能力,比许多人预期的要持久。很多人默认训练太贵、开源配方落后太多,因此围绕 LLM 训练新建实验室不可行。但现实是,像 Databricks 和 01.ai 这样的公司退出训练游戏,目前看起来更像是例外,而非趋势。
由此衍生出两种可能的未来:
未来一:开源配方“跑通”财务闭环。 如果 Nvidia 的策略成功,开源模型带来的芯片需求将远超投入成本。开源生态会越来越依赖 Nvidia 的资助,但必须在几年内产生足够利润回报,或者出现另一家开放模型公司,建立起平台级的财务反馈循环。这种经济回报需要能与 Anthropic 和 OpenAI 的 API 利润相匹敌,才能支撑几十年的模型发展。这可以由性能竞争力驱动,也可以因为 AI 热潮足够大,让开源训练、推理、微调公司都获得海量需求。
未来二:走向效率与定制化的长尾路线。 如果上述财务正循环无法实现,开源模型将走上与头部闭源模型不同的发展路径——更注重效率、可修改性、专用化。作者认为这是更可能的结果:开源模型依然极其有用,但会在闭源模型主导的生态中,扮演一个长尾补充的角色。
对开发者意味着什么?
无论哪种未来,对开发者和 AI 使用者来说,都值得关注几个实操点:
- 拥抱开源配方:不要只盯着模型权重,多关注那些公开训练数据和代码的项目(如 Olmo、Nemotron),它们是你定制模型的基础。
- 评估长期依赖:如果你基于某个开放权重模型构建应用,要意识到权重更新的不确定性,尽量让架构对模型替换保持弹性。
- 关注芯片巨头动向:Nvidia 的投入力度直接决定了开源生态的活跃度,这是判断开源模型未来走向的一个重要风向标。
开源模型的命运,本质上是一场关于“谁掌握智能生产工具”的博弈。Nvidia 的豪赌,赌的是让更多人学会自己“钓鱼”(训练模型),而不是永远向 API 供应商买鱼。这场赌局的结局,将深刻影响未来十年 AI 的格局。