思维链：让模型一步步想

2022 年，最好的语言模型已经会写诗、会写代码，却经常在小学数学上翻车。这不奇怪：语言模型的本职是"接着往下写"，一个词一个词地吐——你问它问题，它的第一反应是立刻吐出一个听起来像答案的词，而不是先算一算。研究者们专门收集了一千多道小学应用题（题库叫 GSM8K）来量化这种翻车。下面是论文第一页的原题，我们全文都用它：

The cafeteria had 23 apples. If they used 20 to make lunch and bought 6 more, how many apples do they have?
（食堂原有 23 个苹果。他们用 20 个做了午餐，又买了 6 个。现在有几个苹果？）

先自己口算一下——两步就出来了，对吧？记住这种"分两步"的感觉，它是全文的钥匙。

现在把这道题喂给 PaLM——5400 亿参数、当时世界上最大的模型之一——它张口就答，见下图左边。答错了。接下来，我们不换模型、不重训、不改题，只在提示里多加一句话："让我们一步步想"（Let's think step by step）。你押：答案会怎样？

同一个模型，同一道题。它不是不会算——23 − 20 和 3 + 6 它都算对了——它只是在被要求"张口就答"时，没有算的空间。如果你怀疑它只是背过这道题，点「换一组数字」多试几次：数字随便换，右边的链每次都跟着重新算——它掌握的是方法，不是答案。一句话就解锁了藏在模型里的能力，这听起来像巫术。然而巫术经不起追问：这句"咒语"到底改动了什么？

先坦白一件事：刚才我们说"加一句咒语"，其实偷了个懒。Wei 和同事们的原始配方更朴素，像每一个请过家教的人都熟悉的场景——先给孩子看例题，再让他做新题。给模型的这段"例题＋新题"合在一起有个术语叫提示（prompt），说白了就是递给模型的那张纸条；纸条上带几道做好的例题，行话叫少样本示范（few-shot），说白了就是"先示范几遍"。名字都不重要，重要的是：例题的答案怎么写，决定了模型学会什么。如果例题答案只有一个光秃秃的"11"，模型学到的是"这种场合要报一个数"；如果例题把演算过程一步步写出来，模型学到的就是"这种场合要先摆过程、再报数"。点下面两个按钮，换一换例题答案的写法，看模型的输出跟着怎么变：

注意绿色的那几行：例题里一出现演算过程，模型的输出里就长出了自己的演算过程——格式是会传染的。模型是一流的模仿者，你示范什么，它产出什么。所谓思维链（Chain-of-Thought），就是在示范里把思考写出来，让模仿自然发生。至于"让我们一步步想"那句咒语，是几个月后另一组研究者发现的偷懒版：不给例题，直接下这句指令。它同样有效，因为它同样给了模型"先写过程"的许可。

然而，一步步想就一定对吗？走的步数多了，摔跤的机会也多了。

直接答错了，你只能对着一个"27"耸肩：它怎么来的？无从追问。链不一样。点「走一步」，看一条推理链一格一格显影；走完之后，切到第二个标签——那条链的中途，我们埋了一个错：

看第二条链里变红的那一格：23 − 20 被算成了 13。它后面的每一步——13 + 6 = 19、"答案是 19"——逻辑全对，结论全错。错误像上游倒进河里的染料，顺着链一路流到了终点。但请注意你刚才做到了什么：你一眼指出了错在第 2 步。链不保证正确，但让错误有了地址。直接答的错误无处追问；链上的错误可以被指认、被修复——后来整个行业"给推理的每一步打分"的做法，都从这扇窗口长出来。

第三个标签更诡异，值得单独走一遍：链一路算到 10，最后一格却突然答了 9——答对了，但这条链显然不是它得出答案的真实路径。论文作者对此毫不遮掩：链未必"忠实"，它有时更像事后编出的说辞，而不是思考的现场直播。

然而，这么好的招数有一个憋屈的前提：不是每个模型都配用它。

给三岁的孩子看再多解题步骤，他也只会鹦鹉学舌地念出步骤的腔调，填不进正确的内容。模型也一样。拖动滑块，把模型从 4 亿参数一路养到 5400 亿，盯着绿线（带思维链）什么时候离开灰线（直接答）：

80 亿参数以下，绿线甚至趴在灰线下面——小模型也会一步一步写，写得流畅又工整，只是步步都是胡话，链反而带偏了它。过了千亿参数附近的那条金色虚线，绿线突然起飞：540B 的 PaLM 从 18% 跳到 57%，一举穿过了图上那条红色虚线——55% 的旧世界纪录，一条靠 7500 道题专门微调、外加专用验证器才够到的线。而绿点越过它，只花了 8 道带过程的例题。论文在 GPT-3、LaMDA、PaLM 三个互不相干的模型家族上都看到了同一个形状：先趴着，后起飞。思维链不是教会模型推理，是唤醒本来就藏在规模里的推理。这种"小时候没有、长大了突然有"的现象，论文给它起的名字后来传遍了整个领域：涌现（emergence）。

然而，钥匙也不是每扇门都开。有的题，链根本帮不上忙。

你不会为"1 + 1"打草稿。模型也一样：草稿纸的价值，取决于题目需要几步。点下面三个标签，看同一个 540B 模型在三类任务上，一条链分别值多少：

注意常识那一栏的反差：StrategyQA 的题要在心里偷偷绕两三个弯（"梨会沉进水里吗"——得先想到密度，再想到梨比水轻），链加了 9 个百分点；CommonsenseQA 的题一眼一跳就到答案，链只加了 1.8 个点——草稿纸对口算题是累赘。

符号那一栏最妙，请多看一眼灰色小字里的例题：示范只教过"取 2 个词的末字母"，测试却考 4 个词——直接答几乎全军覆没（0.2%），带链的模型却把学到的方法延长使用，做对了六成。这正是第 1 节"换一组数字"的放大版：链装下的是可复用的过程，不是一次性的答案。链的价值不看领域，看步数：一步够的题，链是累赘；步数越多，链越值钱。

然而还剩最后一个悬案。回到那句咒语：措辞重要吗？"一步步想"换成别的话还灵吗？零件你已经集齐了——示范、步骤、规模——这次不用我们揭晓，你自己就能预测。

下面七句"咒语"，都会被贴在同一道苹果题的后面——其中两句不是我们编的，是论文自己的对照实验。先在心里把七句话分成"有效"和"无效"两队，再一句句点开验证。全押对，说明你已经看穿它了：

揭底：有效与无效的分界线，跟深呼吸没有关系，跟语气励志不励志也没有关系，甚至跟"多写字"都没有关系——省略号那句就是论文的对照实验：只给"思考的空位"、不给内容，成绩和直接答一模一样；把解释挪到答案后面补，也一样白搭。有效的咒语只做一件事：让模型在作答之前，先产出与题目相关的中间步骤。内容要真，时机要早——草稿纸上得写真演算，而且得在交卷之前打。

后来的人们喜欢用一种更机械的直觉理解它：模型每生成一个词只做固定量的计算，链把几步的难题摊到了几十次计算上——买 token 就是买思考时间。这个直觉不完全严谨（你刚点过的省略号实验就是它的反例：空转的计算不算思考），但它指对了方向，也预言了后来"让模型多想一会儿就更聪明"的整条技术路线。（真事一则：2023 年，谷歌让 AI 自动搜索"最灵的咒语"，搜出来的冠军恰好是"深呼吸，一步一步解决这个问题"——现在你知道了，起作用的仍然是后半句。）

这篇 2022 年的论文，全部贡献可以写在一张便签上：在例题里把推理写出来，大模型就会跟着把推理写出来，而写出来的推理常常是对的。但你今天拨过的每一个控件，后来都长成了一个方向。你看着错误在第 2 步显影、看着链和答案脱节——于是有人让模型一题生成几十条链、让答案投票，有人训练专门的模型给推理的每一步打分；你拖着规模滑块看绿线起飞——"涌现"成了此后大模型研究里最响的词之一；你在沙盒里发现措辞无关紧要、给不给真步骤才紧要——"提示词工程师"一度成了一份真实的职业。

还有一条更远的延长线。"一步步想"和"一步步做"只隔一层窗户纸：如果链的每一步不只是一句话，还可以是一个动作——查一次资料、跑一段代码、订一张票——那么会打草稿的模型，就成了会做事的代理（agent）。今天所有"AI 帮你完成任务"的产品，骨子里都是一条思维链，只是链上的某些环节从"想"换成了"做"。

而这条路的尽头，是把咒语本身扔掉。几年之后的推理模型——OpenAI 的 o1、DeepSeek 的 R1、Claude 的扩展思考——干脆把"先打草稿再作答"训练成了本能：不再需要例题示范，不再需要任何人念咒。今天你看到 AI 在回答前显示"思考中"，屏幕后面滚动的，正是一条思维链。它源头上的想法，就是你在第 1 节亲眼见证的那次翻转：想让机器像人一样解决问题，先让它像人一样，把想法一步一步说出来。

最后留一个可以带走的实验：今晚随便打开一个 AI 对话框，拿一道你自己领域里的多步难题，问它两遍——一遍要求"直接给结论"，一遍要求"先一步步分析再下结论"。然后像你在第 3 节做的那样，顺着它的链找一找有没有哪一步不对劲。从这一刻起，你和 AI 的关系变了一点点：你不再只是收答案的人，你是那个能指着第 2 步说"就是这里"的人。