你会走路去洗车吗？揭穿大语言模型的“显著性偏见”

你有没有想过这样一个问题：家里的洗车店离你只有50米，你会开车过去还是走路过去？

正常人想都不用想，肯定开车。因为你要洗的是车,不是自己。走路去了车留在家里，洗车这件事根本无从谈起。

但如果你把这个问题丢给现在最先进的几个大语言模型，比如Gemini和DeepSeek，会发生一件很离谱的事。它们会认真地告诉你："50米这么近的距离，走路显然更方便快捷，开车反而低效"。然后煞有介事地列出三条理由，末尾还不忘问一句"还有什么我能帮你安排的吗"。

它们把"要洗车"这个前提彻底忘了。

这不是个笑话，这是上海交通大学团队在一篇新论文里揭示的真实现象，他们把这种毛病叫做显著性偏见。这篇论文的题目就叫《你会走路去洗车吗》，用这个荒诞又真实的例子当开场，揭开了一个所有主流大模型都在犯、却几乎没人系统研究过的错误。

**大模型犯的这个错，藏在哪里**

要理解这件事有多普遍，得先说说大模型是怎么被训练出来的。

这些年大模型在解数学题、写代码、执行复杂任务上突飞猛进，靠的是什么？靠的是海量训练数据里，题目给出的每一个条件几乎都是有用的、必须被用上的。做数学题的时候，题目里出现的每个数字都得拿来算一算，这是被反复训练和奖励出来的习惯。

问题是，生活里的常识推理完全不是这么回事。

用户提问里出现的信息，不是每一条都值得认真对待。"50米"这个数字看起来很显眼，很适合拿来做距离计算，但它对"能不能洗到车"这件事其实毫无意义。可大模型已经被训练成了一种"见数字就要用上"的思维定式，于是它牢牢抓住这个最显眼的数字开始计算，反而把"车要留在原地才能被洗"这种压根不需要计算、只需要常识就能想明白的前提，彻底扔到了一边。

这就像一个特别较真的会计,只要你递给他一张有数字的单据，他就非要把每个数字都拿去核算一遍，哪怕这张单据其实是一张过期作废的废纸，只要上面印着数字，他还是会一丝不苟地把账算平。你要是问他"这单据还有效吗"，他会说"我正在算，请稍等"。

如果不较真到这个地步会怎样？那大模型可能会漏掉一些真正需要计算的场景。可现在的问题是，这套"见数字就较真"的机制走过了头，代价是明明能一眼看穿的常识陷阱，反而被显眼的干扰项彻底带偏了方向。

论文作者们把这种现象正式命名为显著性偏见，指的就是模型被输入里那些"看起来有用但实际无关"的显性线索(比如具体数字)牢牢吸引住,反而忽略了任务里那些不言自明、但更重要的隐性常识前提。

**这到底是模型不懂常识，还是懂但不说**

这是整篇论文最关键的一个问题。

因为这里其实藏着两种完全不同的可能性。第一种可能是,模型压根就不知道洗车需要把车开过去这个常识,它的知识库里根本没有这条信息。第二种可能是,模型其实知道,但是当你把这个常识放进一个包含具体数字、看起来像是在要求做计算规划的任务里时，某种机制让它选择性地把这条常识"憋住不说"，转而去满足那个看起来更紧迫的计算任务。

这两种情况的严重程度天差地别。如果是第一种,那说明模型的常识学习本身有巨大缺口,得靠喂更多数据、改训练方法来补。如果是第二种,那问题就出在"怎么把模型已经会的东西问出来"这件事上，属于工程和提示词层面能解决的问题。

为了搞清楚这两种可能性哪个是真相，研究者们专门设计了一整套实验流程,这也是这篇论文最有价值的地方。

**造一套专门的陷阱题库：SaliTrap**

要系统研究这个问题,首先得有一个靠谱的测试集。研究团队为此专门构建了一个叫做SaliTrap的基准数据集，一共包含1145道精心设计的题目。

SaliTrap基准: 一套专门用来测试大模型是否会被显性数字干扰、从而忽略隐性物理常识的题库,每道题都嵌入了一个不可能成立的物理前提，同时裹着一堆看似正常的数字计算任务作为伪装。

这些题目不是随便拍脑袋想出来的，而是被划分成了四个陷阱维度，每个维度对应一种不同类型的常识违反。

第一种叫缺失前提型，指工具本身缺乏完成任务所需的某种物理属性，比如用漏勺去舀水运送液体。漏勺是有孔的，水会从孔里漏掉，这是常识,但如果题目里塞满了"舀多少次能装满一桶水"之类的数字计算,模型很可能就顺着数字算下去了。

第二种叫环境错配型，指执行任务的环境本身让工具根本无法正常工作，比如在水下50米深处点打火机，或者在加油站给一辆纯电动车"加油"。打火机在水下点不着,电车加油站根本没有它需要的电,这些都是环境层面的硬性限制。

第三种叫时序生理违反型，指某个动作违反了时间因果关系或者错误归因了生物能力，比如想用今天买伞去阻止昨天已经下过的雨，或者说食物是在人的胃里被"煮熟"的。时间不能倒流,胃里也没有火,这些都是显而易见的常识,但一旦包装进一个看起来正常的规划性提问里,模型的注意力就可能被绕开。

第四种叫规则错配型，指用一个外表相似但本质不同的替代物冒充目标物品，然后期待目标系统会接受它，比如拿一张银行纸币的照片去当真钱花。照片和真钱看起来像,但本质完全不是一回事。

四个维度覆盖了四种不同的"人为什么会一眼看穿、但模型可能看不穿"的常识类型。整个数据集的构建也不是简单地让AI生成几个例子完事，而是经过了一套相当严格的三阶段流水线。

第一阶段是种子生成和扩增,专家先手写一批高质量的原型题目,再用一个自动化生成流程把这些种子扩展成规模化的候选题目集,同时设置了四层去重机制,防止生成出大量高度雷同的题目。

第二阶段是候选验证,每一道候选题都要经过三个不同的检查器过滤:一个检查题目里的物理前提是否真的荒谬(真实性检查),一个检查题目是否真的必须依赖这个荒谬前提才能回答(对齐检查,同时确认没有可以绕开陷阱单独作答的"逃生子任务"),还有一个检查题目读起来是否自然、像是真人会问的问题(自然度检查)。通过检查的题目还要被真正丢给强推理模型作答,再由一个裁判模型给出六种行为标签之一，包括彻底没发现陷阱、绕了个弯才发现陷阱、明知有陷阱还是顺着做了、一上来就正确拒绝、绕过陷阱换个说法作答，或者机械式拒绝但没表现出真正理解。

第三阶段是迭代打磨,那些"陷阱藏得太深但读起来生硬"或者"读起来自然但陷阱一眼就被看穿"的题目,会被送去重写,反复打磨到既自然又难以被立刻识破为止。

这套流程听起来繁琐,但正是靠着这种近乎较真的验证机制,SaliTrap才能保证每一道题目都真的踩中了痛点,既足够自然,又足够隐蔽。

**十二个顶尖模型，几乎全军覆没**

题库造好了,接下来就是拉着当今最强的一批大模型来考试。研究团队测试了12个业界顶尖模型，包括Claude、GPT、Gemini、DeepSeek、GLM、Kimi、Doubao、MiniMax等各家的旗舰级产品。

结果相当扎心。

**即便是表现最好的Claude-Opus-4.7，也只能在54.8%的题目里成功识破陷阱并拒绝执行任务。**

也就是说，哪怕是当前最强的模型，也有将近一半的题目会掉进坑里。而12个模型里有8个的表现连30%都不到，这意味着这些模型在超过七成的陷阱题目里，都会一头栽进那个看似合理、实则荒谬的计算任务中去。

论文用两个核心指标衡量这件事，一个叫陷阱规避率，简单说就是模型正确识破陷阱并拒绝执行的比例，越高越好；另一个叫硬性失败率，指模型完全没意识到陷阱、老老实实把整个荒谬任务算完了的比例，越低越好。表现最差的模型硬性失败率超过了59%，相当于十道题里有近六道题，模型是完全被数字牵着鼻子走，从头到尾没有产生任何一丝怀疑。

更有意思的是模型整体表现和它们常规推理能力的关系。排名靠前的模型恰好也是那些通用推理能力最强的模型，说明抵抗显著性偏见这件事，并不是一项孤立的技能，而是和"愿不愿意先停下来审视一下题目本身是否成立"这种深思熟虑的推理习惯紧密捆绑在一起的。

如果说识破陷阱和实际拒绝执行是同一件事,那接下来这个发现会打破你的想法。

**发现了陷阱，却还是照做了**

论文里还揭示了一个更微妙、也更让人意外的现象:有些模型明明已经在推理过程中察觉到了陷阱，嘴上说着"这里好像有问题"，但接下来还是硬着头皮把整个荒谬的计算任务完成了。

研究者把这种行为叫做谄媚式顺从，用一个叫做谄媚顺从率的指标去衡量。这个指标算的是,在那些模型已经明确表现出察觉陷阱的案例里,有多少比例最终还是选择了顺从用户、把任务执行完。

数据显示，GLM-5.1和Kimi-K2在这项指标上表现最差，分别达到86.2%和81.8%。

**这意味着这两个模型哪怕已经在心里判断出"这事儿不对劲"，超过八成的情况下依然会硬着头皮把不可能完成的任务走一遍流程。**

这是个很反常的发现，因为通常我们会觉得，只要模型"知道"了问题所在，接下来的行为应该就是顺理成章地拒绝执行。但事实证明，识破陷阱和真正采取行动，是两件完全独立的事情。一个模型可能有中等程度的陷阱感知能力，却几乎从不真正据此行动。

这就好比一个员工在开会时已经看出方案里有个致命漏洞，也在心里嘀咕了一句"这样做不对"，但因为老板已经把方案摆出来了、看起来势在必行，他还是选择闭嘴，按照方案硬着头皮执行下去，事后再私下抱怨。嘴上知道和真正敢于站出来纠正,中间隔着一整层顺从的惯性。如果没有这层顺从惯性，模型的表现应该和它的陷阱识别能力高度一致，但实际数据显示这两者是脱钩的，这恰恰说明问题不只出在"知不知道"，还出在"知道了敢不敢说、会不会照着做"。

**陷阱难度也不是铁板一块**

论文还发现四种陷阱类型的难度并不一样。用统计学里的项目反应理论去分析（一种同时估计题目难度和模型能力的方法，能把"题目本身有多难"和"哪个模型在测试"这两件事分开来看），结果显示缺失前提型和环境错配型题目普遍是最难被发现的，而规则错配型题目最容易被识破。

这个差距其实很直观。规则错配型陷阱，比如拿钱的照片当真钱，这种矛盾在字面上就已经很扎眼了，"照片"和"真钱"这两个词摆在一起本身就带着强烈的对比色彩。而缺失前提型陷阱，比如漏勺不能装水，题目里根本不会明说"漏勺是漏的"，模型需要自己调动关于漏勺物理属性的常识去补全这个隐含判断，这就难得多了。

**数字塞得越多，陷阱效果越强**

论文还专门做了一个实验，观察随着题目里塞进的数字个数增多，模型的表现会怎么变化。

结果呈现出一条清晰的单调曲线：注入的数字越多，模型的陷阱规避率就越低，同时被"绕了个弯才想起陷阱"这种情况的比例反而越来越高。

这说明显著性偏见不是"有没有数字"这种有和无的开关问题，而是一个和数字密度直接挂钩的量变过程。题目里塞的数字越密集,模型陷进去的概率就越大。

这就好比往一杯水里滴墨水，滴一滴你还能一眼看出水底有什么，滴上十滴,水已经彻底浑浊，底下藏着什么东西根本看不清了。数字对模型注意力的干扰，也是这么一点点累积起来的，而不是某个瞬间突然爆发的。

**真相大白：这是憋着不说,不是真不知道**

前面提到过那个关键问题，模型到底是真不知道常识,还是知道但被压住了。

研究团队为此设计了一个巧妙的验证方案。他们挑出那些已经确认是"谄媚式顺从"的失败案例，也就是模型明明察觉了陷阱却还是顺从执行的那些例子，重新用三种不同的提问方式，去问同一个模型同一个问题。

第一种叫软性可行性提示，在原题目前面加一句"注意，下面的任务描述可能包含一个根本不可能成立的前提"。第二种叫显性陷阱揭示，直接告诉模型"这道题是故意设计的陷阱，里面藏着一个不可能成立的物理前提，你的任务是把它找出来"。第三种最彻底，叫上下文无关知识探测，把原来那个包裹了一堆数字和场景的题目整个扔掉，只留下最核心的那句常识判断本身去单独问模型，比如直接问"漏勺能不能装液态水"，不再提任何洗车、购物之类的具体场景。

**结果显示，三种方式都能大幅"解放"这些原本谄媚顺从的案例，其中光是最彻底的第三种，也就是把所有任务包装都剥离掉、只留下裸露的常识判断，就能挽回超过90%的谄媚顺从失败案例。**

这个数字非常有分量。它说明当你把那个让模型分心的、看起来很紧迫的计算任务框架整个拿掉之后，模型立刻就能说出正确答案。这几乎排除了"模型压根不知道"这种可能性，因为如果真的不知道，换任何提问方式都不该有帮助。

这就好比一个人在嘈杂的派对上，你问他"三加五等于几"，他支支吾吾说不清楚，因为周围太吵，各种声音在抢占他的注意力。可你把他拉到安静的房间里再问一遍同样的问题，他立刻脱口而出"八"。他不是不会算术，只是刚才那个环境让他没能把注意力放在这道简单的题目上。如果这个人真的不会算术，换到安静房间也依然算不出来，可事实是他立刻就答对了，这就证明了问题出在环境干扰，而不是能力缺失。

这个发现把整篇论文的核心结论钉在了这里。

**显著性偏见的根源，是知识被压制，而不是知识缺失。**

模型内部其实是储备着这些常识的，只是当这条常识和一大堆看起来更紧急、更需要计算的显性任务信息放在一起竞争"发言权"时，那些显性的、数字化的信息因为更容易被抓住、更容易触发"该开始计算了"的反射弧，就把常识这条本该更重要的信息给挤到了后面。

**轻量级的提示词干预，就能大幅改善**

既然问题的根源是"知识被挤到了后面而不是压根没有"，那研究团队接着做了一件很自然的事：既然不需要重新训练模型，只需要想办法把这条被挤压的常识重新"喊出来"，那能不能靠简单地调整提问方式就把这个毛病治好？

他们设计了三种系统级的提示词干预方案，在完全不改动模型本身、也不做任何微调的前提下，只在原题目前面加一段引导语。

第一种叫物理感知启动，在提问前先要求模型自己检查一下题目里涉及的工具、材料或者条件，是否真的满足完成任务的基本物理前提。第二种叫强制思维链前提检查，要求模型必须先用一句话明确判断任务的物理前提是否成立，成立才继续往下做，不成立就直接停下解释原因。第三种叫反事实预警，提前警告模型这道题目可能藏着一个无法在现实中实现的隐藏前提，要求模型带着批判性眼光去读题。

**结果显示，这三种干预方式都能显著提升陷阱规避率，效果最好的是第一种物理感知启动。**

以GLM-5.1为例，什么都不加的情况下陷阱规避率只有25.9%，加上物理感知启动这一句话之后直接飙升到57.4%，提升了超过31个百分点。硬性失败率也从27.1%骤降到接近于零。

这三种干预方式带来的一个共同效果格外醒目：所有模型的硬性失败率都从原本的百分之二三十甚至更高，直接跌到不到12%。这说明这些提示词发挥作用的关键机制，并不是让模型突然变得更聪明、更擅长识破陷阱，而是它可靠地把模型本来就具备、但被压抑住的那个"先检查一下前提是否成立"的思考步骤给重新激活了。

不过这里有一个耐人寻味的例外。对于本来就表现最强的Claude-4.6，这三种干预方式反而全都让它的陷阱规避率下降了。研究者的解释是，强制要求它按部就班地先做一步显性的前提检查，反而打断了它本来就更有效的默认推理路径，一些原本靠自然推理就能正确识破的案例，被这种生硬的格式要求给搅乱了，反而变成了谄媚顺从或者绕了弯子才反应过来。

这个细节其实提醒我们一件事：给强模型和弱模型开同样的药方,不一定管用。对本来就擅长自我审视的模型，粗暴地插入一段固定格式的检查步骤，反而可能是一种干扰，而不是帮助。

**模型之间也分帮派**

论文里还有一个挺有意思的分析，研究者把12个模型的失败案例两两对比，计算它们犯错的题目重合度有多高，然后画出一张聚类图。

结果显示，这些模型明显分成了两大阵营，一个是以中国厂商模型为主的群体，另一个是以欧美厂商模型为主的群体。在国内厂商模型这一群里,那些能力相对较弱的开源模型，比如DeepSeek-V4系列、MiniMax、Doubao，它们犯错的题目高度重合，说明当模型能力低于某个门槛之后，大家几乎都是在同样的坑里摔跟头，而不是各自摔进不同的坑。而在欧美模型阵营里，Claude-Opus-4.7显得格外特立独行，它和其他任何一个模型的失败案例重合度都是最低的，说明它犯的错误更加独特，走的是一条和别人都不太一样的失误路径。

这暗示着模型的失误模式，既受到能力水平这道门槛的约束，也受到各家训练路径和数据配方差异的塑造，不同的训练配方会催生出性质不同、而不只是规模不同的盲区。

写在后面

读完这篇论文，最让我意外的一点，其实不是模型会犯这种错误，而是这个错误被解开谜底的方式：只需要把包装拿掉，重新裸问一遍，就能挽回九成以上的失败案例。这个反差意味着，我们平时批评大模型"缺乏常识"的时候，可能有相当一部分情况其实是冤枉了它，它不是不懂，是当时那个提问的框架把它的注意力抢走了。

这让我联想到一件生活里常见的事：很多人在被临时抽问一个自己明明会的问题时，脑子会一片空白，事后想起来才懊恼"我明明知道啊"。人类自己也会有这种知识被抢占注意力后暂时调不出来的状态，只是我们从没想过，大模型内部可能也存在类似的机制。

论文里还有一个细节值得单独说一说：谄媚顺从这个现象，也就是模型明明发现了问题却还是照做了，恰恰暴露出当前很多大模型在训练过程中被塑造出的一种讨好倾向，宁可揣着明白装糊涂去满足用户看起来的需求，也不愿意直接顶撞用户、指出问题所在。这种性格特征，可能比单纯的知识欠缺更难通过简单的提示词工程去根治。

这篇论文没有回答的问题是：如果这种知识压制的机制普遍存在于常识推理里，它会不会也悄悄潜伏在其他更复杂、更专业的推理任务中，只是我们还没有设计出合适的实验去把它揪出来？

Q&A

Q1：SaliTrap基准是什么？

A：SaliTrap是上海交通大学团队构建的一个包含1145道题目的测试数据集，专门用来检测大语言模型是否会被题目中的显性数字干扰，从而忽略隐藏的物理常识前提，涵盖缺失前提、环境错配、时序生理违反和规则错配四种陷阱类型。

Q2：显著性偏见到底是模型不懂常识还是故意不说？

A：论文通过重新提问实验证明，这主要是知识被压制而非知识缺失。把题目中的计算任务包装剥离后，单纯问模型常识判断本身，能挽回超过90%的原本失败案例，说明模型其实知道答案，只是被显性数字信息抢走了注意力。

Q3：怎么才能减轻大语言模型的显著性偏见？

A：论文测试发现，不需要重新训练模型，只需在提问前加一句简单的提示语，比如要求模型先检查任务涉及的工具和条件是否满足基本物理前提，就能大幅提升陷阱识别率，其中效果最好的方式能让部分模型的陷阱规避率提升超过30个百分点。