当象棋引擎学会开口说话:一场关于翻译损耗的实验 Original en chino

2016年,AlphaGo战胜李世石的时候,很多人以为这标志着一个新时代的开始:只要给AI足够的算力和数据,它就能在任何领域超越人类专家。
但九年过去了,一个奇怪的现象始终没有解决。
顶尖的国际象棋引擎,比如Lc0,早就把人类大师甩在了身后。它们的内部表征里塞满了对局面的深刻理解:哪块棋看起来危险,哪种结构暗藏杀机,未来五步之后局势会怎样演变。可这些引擎有一个致命的缺陷,它们不会说话。
你没法让Lc0给你讲解一盘棋为什么这样走,也没法让它根据你的水平调整讲解深度。反过来,像GPT这样的大语言模型读过的棋谱比世界冠军一辈子研究的还多,却连业余爱好者都下不过。
这篇来自Adobe媒体与数据科学研究院的论文,探讨的正是这个错位:当一个只会下棋不会说话的高手,遇上一个只会说话不会下棋的博学者,他们要怎么合作,才能做成任何一方单独都做不到的事?
这件事看起来简单,实际上藏着一个被长期忽视的技术陷阱。
沉默的专家和啰嗦的外行
先说清楚问题出在哪。
现在业界让大语言模型和专业工具协作的主流做法,是把工具的输出翻译成文字。棋引擎算出一步好棋,就把它变成一句话:"引擎推荐e4,评估值+0.3",然后塞给大语言模型去理解和使用。
这套方法用ReAct、Toolformer这类框架已经跑得很成熟了。
ReAct*:一种让语言模型交替进行推理和调用外部工具的框架,模型先思考、再行动、再根据结果继续思考
Toolformer*:一种让语言模型学会自主判断何时调用外部API的方法
但这篇论文提出了一个尖锐的质疑:如果两个智能体说的根本不是一种语言,把其中一个的思维硬翻译成文字,到底会丢失多少信息?
答案可能比你想象的更严重。论文里给出一个具体例子:Lichess(一个全球最大的国际象棋社区网站)上有个"趣味性评分",衡量一个棋局位置有多让人着迷,是不是暗藏精妙的战术,是不是打破常规。这个评分完全基于社区玩家的投票,跟引擎给出的最佳走法排名几乎没有直接关系。
研究团队测试了包括GPT-5.1在内的所有能拿到引擎文本输出的系统,不管模型多大、多先进,在预测这个趣味性评分上的表现都趴在地上:斯皮尔曼相关系数(一种衡量两组排序一致程度的统计指标,数值越接近1说明预测排序和真实排序越吻合)全部低于0.12。
这不是因为模型笨。这是因为引擎压根没把"这局面有多有趣"这种信息编码进它输出的文字里。
这就好比你请了一位顶级品酒师帮你选酒,但只允许他用"好"或"不好"两个字回答。品酒师脑子里可能装着单宁的层次、果香的复杂度、余韵的绵长这些丰富的判断依据,可你只让他说一个字,那些细腻的感受全都被压扁了。如果你压根不让他开口,只让你自己去猜他心里在想什么,那损失的信息只会更多。这不是品酒师能力不够,是你给他的表达渠道太窄。论文管这个现象叫"verbalization debt"(语言化债务),意思是每次把一个非语言智能体的内部状态硬塞进自然语言,都会有一部分信息永久性地丢失,而且这个损耗会随着交互步数越多、任务越复杂而累积得越来越严重。
一条绕过翻译的新路
既然把引擎的想法翻译成文字会丢信息,那能不能干脆不翻译?
研究团队的思路是:直接把引擎大脑内部的激活值,投影进大语言模型能理解的向量空间里,让语言模型直接"看懂"这些连续的数字,而不是先转成文字再理解。
这个方法他们叫latent state internalization(潜在状态内化)。
具体怎么做?棋引擎Lc0-BT4在处理一个棋局局面时,会在它的第14层(倒数第二层)产生一组1024维的隐藏激活值,这组数字里编码了这个局面的棋子结构、王的安全性、长程战术可能性等等丰富信息。
研究者训练了一个叫LatentBridge的三层小型神经网络,专门负责把这1024维的数字压缩投影成32个连续的"伪词元"(token),直接塞进大语言模型的输入序列里,跟真正的文字词元混在一起处理。
这就好比原本你和一个外国朋友交流,得靠一个蹩脚的翻译软件把他的话逐句转成中文,很多语气和潜台词都丢了。现在换成你俩都戴上了脑机接口设备,他脑子里的想法可以直接以某种编码形式传到你脑子里,虽然你不"听懂"每一个具体的词,但那种感受和判断的分量是完整传递过来的。如果没有这个直连的通道,你只能靠文字复述去猜他到底在想什么,猜错的概率会随着话题复杂度直线上升。
这个想法听起来简单,但实现起来有个关键的工程细节:怎么知道该从引擎的哪一层去提取信息?
研究者做了个很扎实的验证:他们冻结了BT4引擎,在每一层的激活值上都训练了一个轻量的线性探针,去预测棋手会走的下一步棋、两步之后最佳走法、局面难度、是否存在战术组合这四个指标。结果显示,第12到14层的表现明显优于其他层,其中第14层被选为最终提取点。这个结果和另一篇独立的可解释性研究(Lin et al., 2026)不谋而合,那篇论文专门分析了这个网络架构,也发现价值判断、目标格子预测、前瞻推理这些特征恰好聚集在第14层附近。
这不是巧合。深度神经网络通常在越靠近输出的层,越会把原始输入信息压缩、抽象、整合成任务相关的高阶特征。太浅的层还没消化完信息,太深的层又已经被具体的输出格式(比如走法编码)绑得太死,中间靠后的位置恰好是信息最浓缩、最通用的地方。
搭建整套系统:LLAMIA是怎么训练出来的
有了这个投影桥梁,接下来的问题是怎么训练一个真正会用它的语言模型。
研究团队采用了两阶段训练法,最终得到的模型叫LLAMIA(Large Language and Action Models with Internal Agents,直译为"带内部智能体的大语言与动作模型")。
第一阶段叫projector alignment(投影器对齐)
这一步冻结住语言模型本身,只训练那个32词元的投影桥梁。训练数据来自Lc0引擎自我对弈产生的500万个局面,每个局面配上引擎自己的走法建议。因为语言模型是冻结的,这个阶段可以放心地用海量数据训练投影器,而不用担心语言模型的原有能力被破坏。
这就像先给一位新来的翻译培训三个月,专门熟悉专业术语和行业黑话,这时候还不让他真正上场服务客户,先确保他手里的工具箱是靠谱的。
第二阶段叫强化学习微调,用的是叫DAPO的算法
DAPO*:一种基于群体相对优势的策略优化算法,属于强化学习范畴,特点是对策略更新的裁剪范围做了不对称设置,鼓励模型更多探索
这一阶段解冻语言模型和投影器,让它们一起根据具体任务的奖励信号联合优化。奖励信号因任务而异:行为模仿任务用走法排名,趣味性预测用误差大小,解说生成用一个叫G-eval的评分体系(用GPT-4o来给生成内容打分,从相关性、完整性、清晰度、流畅性四个维度评估)打分。
这一步至关重要,因为只有在这个阶段,语言模型才真正学会了什么时候该调用引擎、该怎么解读拿到的潜在状态、该怎么把这些感知整合进最终的语言输出里。
值得一提的是,工具调用本身也被纳入了策略的动作空间,也就是说,模型不是被写死"每一步都要调用引擎",而是自己在强化学习过程中学会了什么时候值得花这个成本去问一下引擎。
翻译债务到底有多贵:六个任务的正面较量
理论说得再漂亮,也得靠数据说话。
研究团队搭建了一个叫LLAMIA-Bench的评测集,包含六个任务:模仿不同棋力玩家的行为、预测拼图难度、预测拼图趣味性、生成走法解说、生成整局解说,以及在分布外场景下的泛化能力测试。
这六个任务背后有一个精心设计的梯度:从只需要看一步棋局面就能完成的简单任务,到需要串联多个局面、追踪整盘棋叙事逻辑的复杂任务。
先看最直观的对比表格:
| 任务 | GPT-5.1+Lc0(文字工具) | Qwen3-14B+Lc0(未训练) | 专用任务微调模型 | LLAMIA(潜在通道) |
|---|---|---|---|---|
| 行为模仿-MAIA | — | 39 | 55 | **53** |
| 行为模仿-野外 | — | 33 | 45 | **49** |
| 拼图难度预测 | 48 | 28 | — | **71** |
| 拼图趣味性预测 | 10 | 5 | — | **52** |
| 走法解说 | 37.5 | 18.8 | 34.5 | **45.8** |
| 整局解说 | 55 | 15 | — | **75** |
(表格数值来自论文Table 18,评分乘以100后展示)
差距最惊人的地方在拼图趣味性预测上。所有依赖文字通道的系统,不管是训练充分的LLAMIA-Verb还是财大气粗的GPT-5.1,得分都卡在10分左右动不了。这不是训练不够、也不是模型不够大,是因为文字输出里压根就没装载这个信号。而LLAMIA用潜在通道,直接把这个数字拉到52分。
这个鸿沟在训练过程中不是一开始就有的,而是随着训练推进逐渐拉大的。论文里展示的训练曲线显示,LLAMIA和它的对照组LLAMIA-Verb(完全相同的骨干模型、相同的数据、相同的DAPO训练配方,唯一区别是信息通道用文字还是用潜在向量)刚开始训练时表现接近,走到训练中后期,两者的差距扩大到2到3倍。
而且这个差距不会因为把语言模型做大而消失。研究者分别在4B、8B、14B三个规模上重复了整个实验,结果显示,即便把参数量翻两番,LLAMIA-Verb在拼音趣味性任务上依然徘徊在个位数,14B规模的LLAMIA-Verb只有8分,而最小的4B规模LLAMIA已经能拿到38分。
这说明一个挺重要的道理:有些信息瓶颈不是靠堆算力能解决的,因为问题根本不出在模型容量上,出在信息传递的通道本身。
这就好比你想通过电话线传送一段高清视频,不管电话线那头的接收设备升级得多先进,传输带宽的天花板始终摆在那里。你可以换更贵的接收器,但接收器再好也解不开电话线本身的物理限制。你得换根光纤才行,这就是潜在通道相对于文字通道的意义。
协作方式本身也被重新塑造了
比数字更有意思的,是研究团队观察到的一个现象:语言模型学会用引擎的方式,随着信息通道的不同发生了本质变化。
他们让GPT-4o扮演裁判,把语言模型每次调用引擎的行为归类为五种协作策略:直接跟随引擎推荐、先咨询再自主决定是否采纳、构造假设走法反查验证、连续多步前瞻推演、以及完全不依赖引擎独立判断。
结果非常鲜明。用潜在通道的LLAMIA,会根据任务性质灵活切换策略:下棋对局时65%的时候直接跟随引擎(因为对局需要快速反应),行为模仿任务里48%的时候是先问引擎再自己拿主意(因为要贴合人类习惯而不是最优解),生成解说时40%的比例用假设验证的方式(因为解说需要探索"如果走另一步会怎样")。
而用文字通道的LLAMIA-Verb,不管什么任务,62%到76%的时候都是简单粗暴地照搬引擎给出的推荐,策略几乎不随任务变化。
这个差异背后的逻辑挺容易理解的。文字通道每次返回的都是那几句固定格式的话,比如"最佳走法是Nc2,评估值+0.3",不管语言模型换什么方式去问,拿回来的信息形状是一样的,自然也就没什么策略可玩。
但潜在通道不一样,那32个向量里塞满了远比一句话丰富的信息,语言模型的注意力机制可以在不同任务里选择性地关注不同侧面:分析局面时多看看王的安全性相关的激活,做走法预测时多看看战术组合相关的激活。这就相当于给了语言模型一双可以自由调焦的眼睛,而不是一张已经冲洗好、固定构图的照片。
研究者还专门做了个对照实验来验证这个结论不是巧觉。他们把LLAMIA自己的潜在词元随机打乱顺序,结果表现直接坍缩回接近LLAMIA-Verb的水平,尽管词元数量一个没少。这说明真正起作用的不是"多了32个额外的位置能装信息"这种容量效应,而是这32个位置里装的正好是引擎自己的策略和价值判断。
有意思的是,这种更丰富的协作方式并没有让推理成本变高。因为LLAMIA学会了更少地调用引擎(平均每次查询调用1.9次,而LLAMIA-Verb要调用2.9次),虽然每次调用多带32个词元的开销,但调用次数少下来,两者的总体推理开销打平甚至更低。这说明潜在化不是拿速度换准确率的取巧手段,是真正找到了效率更高的协作方式。
人类看不出破绽的对局
如果说前面这些都是冷冰冰的数字,那接下来这个实验就有意思多了。
研究团队请了12名评分在1700以上的资深棋手,让他们观看一系列10步棋的对局片段,判断哪一方是AI,哪一方是人类。
LLAMIA-14B被正确识别为AI的比例只有39%,也就是说,六成以上的时候,棋手把它误认成了人类对手。而用文字通道训练出来的LLAMIA-Verb-14B,被正确识别的比例高达72%。
更细致的分析显示,识别LLAMIA-Verb靠的是"风格线索",比如"这走法太稳了,从不出昏招"、"节奏感不太自然",占了识别理由的65%。而识别LLAMIA的时候,38%的棋手根本说不出具体理由。
这个数据挺耐人寻味的。LLAMIA没有专门用海量人类对局数据去训练模仿人类棋风(相比之下,专业的行为模仿模型Maia用的是1200万盘人类棋局),但它反而展现出了更贴近人类的行为特征,包括在时间压力下犯下和人类相似的失误,在不同棋力水平下把注意力集中在人类玩家会关注的棋子上。
这说明什么?可能说明人类下棋的那种"不完美的合理性",很难通过刻意模仿海量数据来复制,反而更容易从一个对局面有深刻理解的系统里自然涌现出来,只要给它一个足够丰富的感知通道去表达这种理解。
这就好比一个母语者说话有语病、有停顿、有自然的犹豫,这些"不完美"恰恰是真实的标志。而一个背熟了大量范文的外语学习者,即使语法全对,说出来的话反而透着一股刻意的完美感,容易被人识破。人类下棋的"人性"不在于走出多正确的棋,而在于那种带着理解和局限的自然感。如果只是让模型死记硬背海量人类走法,学到的可能只是表面模式,学不到那种理解带来的自然。
从棋盘走向围棋盘
这套方法只对国际象棋有效吗?
研究团队做了个初步验证,把整套流程搬到了围棋上,用KataGo(一款开源的顶级围棋AI引擎)替换掉Lc0,只调整了投影器的输入维度以匹配KataGo的384通道网络结构,训练流程一字不改。
结果显示,在预测不同段位棋手(5级到5段)实际走法这个任务上,只用8000个训练局面,14B规模的围棋版LLAMIA达到了48/50的准确率,跟专门针对不同段位校准过的KataGo-HumanSL专家模型(46/50和50/50)打了个平手,还比文字通道的对照组高出大约10个百分点。
这个结果虽然还只是初步验证,规模也远小于国际象棋部分那么完整的六任务测试体系,但至少说明这套"直接内化非语言智能体潜在状态"的思路,不是国际象棋这个特定领域的取巧,而是一个更普遍适用的协作范式。
写在后面
读完这篇论文,最让我意外的不是那些漂亮的性能提升数字,而是那个拼图趣味性预测的实验设计本身。
研究者没有找一个自己方便测的指标,反而专门找了一个"文字系统天生答不出来"的问题去做诊断。这个设计挺聪明的,因为它把"语言化损耗"这个原本很抽象的概念,变成了一个可以肉眼看到、任何人都能理解的数字对比:所有依赖文字的系统全部卡在10分左右,而潜在通道的系统一下冲到50分以上。这种诊断性任务的设计思路,本身就值得单独拿出来说一说。
另一个让我反复琢磨的地方是那个"策略熵"的实验。研究者不满足于只看最终得分,还专门去分析了模型"怎么用"这个工具,发现潜在通道催生出了六种不同的协作模式,而文字通道无论换什么任务都退化成一种模式。这提醒我一件事:我们平时评价一个AI系统好不好,往往只盯着任务完成度这个终点,却很少去追问这个系统解决问题的路径是不是丰富的、是不是灵活的。一个总能蒙对答案但思路单一的系统,和一个思路多变但偶尔犯错的系统,哪个更值得信任,这其实是个值得单独琢磨的问题。
论文里也留了一个没说透的地方。整套方法依赖能访问模型内部权重,这意味着如果专业智能体是闭源的,这套内化方案就用不了。研究者提出的折中方案是让LLAMIA本身充当一个"桥梁",让闭源大模型通过自然语言跟LLAMIA交流,再由LLAMIA去做潜在层面的内化。这个方案听起来可行,但会不会在这一层转换里又引入新的损耗,论文里没有细谈。
如果一个闭源的超大模型,永远没办法直接触碰专业智能体的内部状态,只能靠一个中间人去传话,那这个中间人本身的能力上限,会不会又变成一道新的天花板?
Q&A
Q1:LLAMIA是什么?
A:LLAMIA是Adobe媒体与数据科学研究院提出的一种模型,它通过将国际象棋引擎Lc0-BT4的内部激活值直接投影成语言模型可理解的向量词元,让大语言模型和不会说话的专业棋类引擎实现深度协作,而不是依赖传统的文字翻译方式。
Q2:为什么把引擎输出翻译成文字会有问题?
A:因为文字翻译会丢失大量信息。论文发现所有依赖文字通道的系统在预测棋局趣味性这个任务上得分都低于12分,而用潜在向量直接传递引擎内部状态的LLAMIA能拿到52分,说明有些信号根本没法用几句话概括清楚。
Q3:LLAMIA的方法只能用在国际象棋上吗?
A:不是。研究团队把同样的方法搬到围棋上,用KataGo引擎替代Lc0,只用8000个训练局面就达到了和专业围棋模型相当的水平,说明这套潜在状态内化的思路具备跨领域的通用性。