开源项目为何对AI说“不”

开源世界的AI抵制潮

金融市场存在AI泡沫已是共识，但温和观点认为大语言模型（LLM）仍在持续进步，终将接管更多人类任务并提升生产力。然而，LLM是真的变聪明了，还是只是更擅长欺骗我们？

一个日益壮大的技术专家群体认为，LLM实际上阻碍了真正的进步，因此他们禁止使用LLM，要求纯人工工作以确保质量和效率。Rakshit Yadav最近对120个开源项目的AI政策进行了审查，发现37个项目选择了全面禁止AI。在Linux内核中，AI辅助贡献被允许，但必须注明所使用的LLM以保持透明；而GCC、QEMU、SDL、Gentoo、Zig和Ghostty等项目则采取了拒绝所有AI辅助贡献的政策。此外，Codeberg、Sourcehut等开发平台以及Flathub等应用商店也禁止使用AI生成软件、文档、错误报告、审查评论等任何面向人类阅读的内容。

允许AI使用的项目通常仍要求人类参与其中，提交者必须阅读并过滤LLM输出的所有内容，然后才能让其他人看到，以遏制AI垃圾的传播。

目前，Linux发行版Debian的开发者正在投票决定是否允许或禁止AI用于贡献。 ballot上的提案之一就是全面禁止AI用于代码、文档、翻译、错误报告等。大多数人的第一反应是惊讶——为什么这些技术人员不想使用人类迄今为止最先进的技术？难道他们不希望Debian在AI帮助下更快改进？还是说LLM其实是个骗局，对Debian毫无用处？这些人是各自领域杰出的专家，绝不愚蠢，因此值得停下来理解他们为何提出AI禁令。

还要记住，AI数据中心本身运行在Debian或其他基于Linux的系统上。世界上所有开源软件都被喂给了LLM，而软件开发是目前AI的主要用例之一。那么，为什么许多开源项目的维护者不愿接收LLM辅助的贡献，尽管LLM基本上都运行在这些相同的软件栈上，并且已经用这些开源代码库训练过如何做软件开发？

LLM为何如此具有欺骗性

LLM的输出往往看起来非常有说服力、专业且正确。人类在进化中形成了根据易于检测的次要因素（如说话者的权威性，或信息传递的自信和雄辩程度）来信任或不信任新信息的习惯。然而，人类非常不擅长事实核查和交叉验证新信息，因为这需要大量努力，而人类喜欢节省能量，尽可能懒惰。

信息不对称

你对某件事了解越少，就越容易被在该主题上欺骗。诺贝尔经济学奖曾授予关于信息不对称如何扭曲市场并导致次优结果的研究。在软件工程领域，我们现在目睹了大量有抱负的软件开发者使用AI创建看起来可能有效但实际充满缺陷的软件。这些人本意良好，但他们缺乏专业知识来理解自己到底在做什么，也不具备必要的判断力来决定LLM的输出何时真正有用，何时主要是在制造垃圾。

我认为，这种专业知识的不对称解释了当前开源项目中观察到的大部分冲突——资深开发者被大量低质量AI贡献淹没，不得不花费大量时间审查和拒绝，这严重影响了他们的工作效率和项目质量。因此，禁止AI辅助贡献成为了一种自我保护和质量控制的手段。

质量与效率的权衡

开源项目的维护者通常是志愿者，他们的时间宝贵。面对AI生成的看似合理但实则漏洞百出的代码或文档，他们需要投入额外精力去验证和修正。与其如此，不如直接要求人类贡献者提交经过自己思考和验证的内容。这不仅能保证质量，还能促进贡献者自身技能的提升。

此外，AI生成的内容可能涉及版权和许可问题，这也是开源项目谨慎对待AI贡献的原因之一。

结语

开源项目对AI的抵制并非技术保守，而是基于对当前LLM局限性的清醒认识。在AI hype与软件工程现实之间，存在一道日益扩大的鸿沟。对于真正追求质量和可持续发展的项目而言，人类专家的判断力和经验仍然是不可替代的。