AI 非虚构写作为何停滞?从写教科书看大模型的瓶颈

AI 非虚构写作为何停滞?从写教科书看大模型的瓶颈
摘要:作者反思 AI 写作现状,指出创意写作虽有观点但缺乏灵魂,而非虚构写作(如教科书)在组织知识上面临“熵增”难题,AI 目前更像是辅助工具而非独立作者。
在 AI 快速发展的今天,我们往往被其在数学、编程等任务上的惊人表现所吸引,却忽略了其在非虚构写作领域——尤其是撰写教科书、技术文档这类任务上的停滞不前。作为一名资深科技编辑,通过分析近期 Nathan Lambert 关于 AI 写作能力的深度思考,我们可以更清晰地看到大模型当前的能力边界与未来方向。
创意写作与事实写作的鸿沟
目前公众对 AI 写作的批评,大多集中在创意写作上。这类文章往往缺乏“高音量”的表达,没有鲜明的个人观点,也缺乏深度的人类情感共鸣。随着 AI 从“对话助手”向“工具”转变,它在激发灵感和表达深刻思想方面的能力似乎反而有所倒退。
然而,真正值得关注的是非虚构写作的现状。在过去,生成填充文本和复制文本曾是 GPT-3 时代的一个真正用例。但令人惊讶的是,尽管模型在数学和编程上取得了巨大飞跃,但在组织并有力地呈现既定科学知识方面,它们依然举步维艰。
知识组织是“压缩”,而非“生成”
为什么 AI 在写教科书上如此吃力?关键在于对“知识组织”的理解。知识组织本质上是一种压缩,它需要从海量信息中提取精华,剔除冗余,形成逻辑严密的体系。
目前的 LLM 在长篇非虚构写作中,实际上是在增加熵,而不是减少熵。它们生成的文本往往充满了噪音和重复,缺乏对知识的深度消化。这解释了为什么像 GPT-4.5 或 Kimi K2 这样的老牌模型在写作能力上依然名列前茅——因为写作质量并未随时间线性提升,反而陷入了瓶颈。
对科学研究的现实影响
对于依赖 AI 进行自主科学研究的开发者来说,这是一个必须警惕的信号。如果模型无法掌握组织既定科学知识这一基础能力,它们就很难独立解决广泛、开放式的科学难题。
目前的 LLM 更像是擅长解决“低垂的果实”或在跨学科之间建立连接,而非产生革命性的洞察。这意味着,在可预见的未来,AI 在科研领域的角色更像是“超级助手”,而非“独立科学家”。
实用建议:如何正确使用 AI 辅助写作
既然 AI 无法独立完成教科书式的非虚构写作,开发者该如何利用它?结合作者 Nathan Lambert 的经验,以下是几点实用建议:
- 明确分工:不要试图让 AI 一次性完成整本书的写作。它更适合处理具体的子任务。
- 格式化与校对:利用 AI 处理繁琐的排版工作,如 LaTeX 公式的格式化、代码块的高亮,以及图表的生成(如使用 TikZ 绘制编程语言图表)。
- 充当向导:将 AI 视为一名需要引导的学生。你需要提供清晰的结构框架和具体的指令,AI 才能产出高质量的内容。
- 人工复核:对于涉及既定科学知识的内容,必须进行严格的人工审核,确保信息的准确性和逻辑的连贯性。
总的来说,虽然我们对 AI 的未来充满乐观,但在非虚构写作和知识组织方面,人类依然扮演着不可或缺的“向导”角色。理解这一点,才能更好地驾驭 AI 这一强大的工具。
本文目录(4 节)
本文基于 Interconnects 的公开内容,由 AI 辅助整理改写后发布。
原标题:I wrote an AI textbook — how long until AI can do it better?
阅读原文