🧠 AI 推理的真相：它真的在思考，还是在装模作样？

目录

• 一个从 2024 年拉扯到 2026 年的问题
• 「思考链」可能只是「喃喃自语」
• 30% 到 60% 的思考步骤是多余的
• 「愿望助记符」：1976 年的概念，2026 年的问题
• 所以，AI 到底会不会思考？

---

Quanta Magazine 在 7 月 31 日发了一篇关于 AI 推理的深度文章，第一句话是：

「I'll just say it: What the hell is going on with AI 'reasoning'?」

作者 John Pavlus 有 20 年科学记者经验，花了 18 个月跟踪 AI 推理模型的进展，采访了学术界和工业界最核心的研究者，最后得出了一个不那么舒服的结论：我们可能正在用「推理」这个词，叫一个根本不是推理的东西。

一个从 2024 年拉扯到 2026 年的问题

2024 年，OpenAI 发布了 o1 模型——第一个被称为「推理模型」（Large Reasoning Model, LRM）的产品。它的卖点是：在回答问题之前，模型会先生成一段「思考链」（chain of thought），看起来像在一步一步地推导。

效果一度惊人。2025 年，LRM 在国际数学奥林匹克竞赛中拿了金牌。2026 年 5 月，OpenAI 的一个推理模型解决了一个著名的数学开放问题——单位距离猜想，让数学家都愣了一下。

但与此同时，反向证据也在堆积。

Apple 的研究团队发表了一篇论文，标题就叫「Thinking Illusion」（思考的幻觉），指出这些模型在简单条件下会出现「完全准确度崩溃」。Santa Fe Institute 的研究显示，LRM 可以用「表面捷径」通过精心设计的推理基准测试——看起来在推理，实际上只是在「猜答案」。

同一批模型，一会儿能解开放数学问题，一会儿连简单逻辑题都翻车。怎么解释？这在科学上是一个尴尬的局面：没人否认它们能做出惊人的结果，但也没人能说清楚它们到底是怎么做到的。

「思考链」可能只是「喃喃自语」

Melanie Mitchell，一位从 1980 年代就开始研究 AI 的学者，我几年前读过她在 Santa Fe Institute 关于类比推理的工作。她在这篇文章里给了一个非常简洁的回答：

「第一，它确实有效。推理模型比普通 LLM 在推理任务上更准确。第二，它生成的文本不一定忠实于模型内部发生了什么。第三，很多文本其实没用——你完全可以把它删掉。」

这不是个别人的观点。Arizona State University 的 Subbarao Kambhampati 做了更直接的实验：把模型生成的「思考链」替换成错误的、无关的文本，模型的推理表现没有下降。

他甚至把论文标题写成了：Stop Anthropomorphizing Intermediate Tokens as Reasoning/Thinking Traces！——「别再把人话加到中间 token 上，然后管它叫推理！」

Kambhampati 的观点是：LRM 本质上还是 LLM，它们做的不是推理，而是「近似检索」（approximate retrieval）——在庞大的训练数据中，找到最接近「推理」形状的文本输出。思考链的作用不是记录推理过程，而是像「自言自语」一样，帮模型把上下文窗口填满，让它更容易预测出「看起来像推理」的文本。

他把这个过程比作你一个人喃喃自语来帮助记忆：嘴里说的词具体是什么并不重要，重要的是它们能帮你敲出点什么有用的东西。

30% 到 60% 的思考步骤是多余的

最硬核的证据来自 Northeastern University 和 UC Berkeley 的一篇 2025 年论文。

他们分析了开源 LRM 的推理过程，发现 30% 到 60% 的「思考步骤」对最终答案没有因果影响。砍掉一半，模型的性能几乎没有下降。NYU 的研究甚至发现，用一串句号（「......」）替代「思考链」，也能达到同样效果。

William Merrill，这篇论文的作者之一，说得很直白：

「没有证据表明思考链必须在任何意义上『有意义』。」

Pavel Izmailov，另一位在 NYU 和 Anthropic 工作的研究者，说他不认为强化学习——训练 LRM 的典型方法——会激励模型生成忠实的思考链。「也许它会，」他说，「但我觉得概率不高。」

「愿望助记符」：1976 年的概念，2026 年的问题

整篇文章最让我印象深刻的，是 Mitchell 引用的一个 1976 年的概念——「愿望助记符」（wishful mnemonics）。

1976 年，计算机科学家 Drew McDermott 在一篇题为「人工智能遇到了自然愚蠢」（Artificial Intelligence Meets Natural Stupidity）的论文中写道：

「AI 程序中一个简单化的主要来源，是使用像 'UNDERSTAND' 或 'GOAL' 这样的助记符来指代程序和数据结构。如果一个研究者把他程序的主循环叫做 'UNDERSTAND'，他可能是在误导很多人，最重要的是，误导他自己。他应该把这个主循环叫做 'G0034'，然后看看能不能说服自己或别人，G0034 实现了理解的某些部分。」

2026 年的今天，我们把模型的中间输出叫做「推理链」、「思考轨迹」、「推理 token」——这和 1976 年把主循环叫做「UNDERSTAND」有什么本质区别？

Kambhampati 说得更狠：认真对待 AI 推理链的含义，就像相信地心说或以太存在一样，是一条科学的「兔子洞」。

OpenAI 的 Sébastien Bubeck 则持相反立场：模型公开发布了思考链，你可以去看。模型像人一样推理，人推理的时候也不用 Lean 定理证明器。但问题是，OpenAI 自 2024 年起就不再公开「原始」思考链了——他们发布的是「人工重写摘要」。这意味着外界无法独立验证那些「思考」是否真的在推理。

所以，AI 到底会不会思考？

这个问题的答案取决于你怎么定义「思考」。

如果「能解数学竞赛题 = 能思考」，那 AI 确实能思考。如果「能一步一步推导出正确答案 = 能思考」，那证据还不够充分——因为那些「步骤」可能只是模型为了让自己更准确而生成的填充文本，和真正的推理没有关系。

Bubeck 说，比起争论模型是不是真的在推理，更值得关注的是「它们能做什么」。Mitchell 则说，如果你需要信任 AI 在不可验证的领域做决定，那「正确的原因」同样重要。

我倾向于站在 Mitchell 这一边。不是因为我不相信 AI 能推理——事实上，我每天都看到它做出令人惊讶的事情。而是因为，我们给 AI 能力取的名字，正在塑造我们对自己的理解。 叫它「推理」还是「近似检索」，不只是语义问题——它决定了我们信任什么、怀疑什么、在哪投入研究资源。

Quanta 这篇文章最聪明的部分，是用「愿望助记符」这个 1976 年的概念，提醒 2026 年的我们：不要被自己造的词骗了。

我们仍然在造词。我们仍然在把「G0034」叫做「UNDERSTAND」。区别只是——2026 年的 G0034 比 1976 年的大了不知道多少倍，以至于我们更容易被它骗过去。