知识正在杀死思考？NVIDIA&斯坦福TTT-Discover 揭秘“边考边练”

在希腊神话中，西西弗斯推着巨石上山，陷入了永恒的重复。以往的AI智能体在面对科研难题时，表现得极其相似：它们带着预训练好的庞大“字典”（参数知识），一遍遍尝试从概率分布中捞出正确答案。如果捞不到，它们只会反复折腾那本已经翻烂了的字典。

这种模式被称为“测试时搜索（Search at Test Time）”。但今天，由 Stanford 和 NVIDIA 等团队联合发布的论文 《Learning to Discover at Test Time》 告诉我们：真正的智慧不应只是“翻字典”，而是在推石头的过程中，实时地修改自己的大脑。

我们解读最新技术，文末有相关信息。

作者：张长旺，图源：旺知识

他们提出了 TTT-Discover 框架。这意味着 AI 终于从一个“博闻强识的背诵者”，进化成了一个“能在考试现场进化的思想家”。

痛点拆解：为什么“堆算力”买不来新发现？

长期以来，我们陷入了一个误区：只要给 AI 更多的推理时间（Test-time Scaling），它就能解决科学难题。然而，现有的方法如 AlphaEvolve 主要是让冻结的 LLM 去做搜索。

想象一下，你正在参加一场顶级的数学竞赛。你虽然带了全球最全的公式集，但你无法在解题过程中根据反馈修正自己的逻辑错误，只能不断地排列组合已有的公式。这种“静态大脑”在面对从未见过的科学边界——比如 GPU 内核优化、复杂的生物降解模拟或未解的数学难题时，效率低得令人绝望。

现状的低效在于：大脑是死的，而问题是活的。

技术解构：让 LLM 在“考场”上边考边练

TTT-Discover 的核心创新点在于 测试时训练（Test-Time Training）。

如果说传统 LLM 是“考试带字典”，那么 TTT-Discover 就是“边做题边写笔记，并把笔记缝进脑子里”。

• 动态自我更新：与以往只在提示词（Prompting）里绕圈子不同，TTT-Discover 在解决具体问题时，会针对当前的经验进行强化学习（RL）。LLM 的权重在测试阶段是动态变化的，它在不断吸收特定问题的“经验值”。

• 目标单一化：一般的继续学习(Continual Learning) 追求泛化，但 TTT-Discover 极其叛逆——它只为了解决眼前这一个难题。它不求在所有学科都拿 100 分，它只求在此时此刻，把这个 GPU 内核的运行效率再提升 50%。

• 低成本的“降维打击”：令人惊讶的是，这种方法并不依赖闭源的顶级模型。研究者使用开源的 gpt-oss-120b，通过 Tinker API，仅花费几百美元就打破了多项世界纪录。

深度拷问：为什么“即时记忆”比“预训练知识”更重要？

为什么通过简单的测试时更新，就能释放如此大的潜力？

这种置换的本质是将“通用常识”转化为“局部洞察”。科学发现的本质往往藏在那些 0.1% 的极端情况里，预训练模型为了照顾 99.9% 的普适性，往往会抹平这些细节。而 TTT-Discover 通过在测试阶段的训练，强迫模型“窄化”视野，进入一种类似于人类艺术家的“心流”状态。

“完美的记忆会杀死思考，而精准的遗忘（专注）才能产生创造。”

行业终局观：从“缝补”到“开辟”

在 AI 发展史上，TTT-Discover 坐标极其关键。它不是在给旧模型增加更多的搜索策略（缝补），而是在重新定义模型与知识的关系（开辟新路）。

它预示了一个未来：未来的科研 AI 不再需要被喂进全人类的所有数据，它们可能只需要具备基础的逻辑，然后被投放进特定的科研场景中，通过“实时进化”来超越前人。

说实话，这让我感到兴奋。我们正在目睹 AI 从“模仿人类已知”向“探索人类未知”的质变。当 AI 学会在考场上通过练习来超越出题者时，科学发现的奇点可能就不远了。

参考资料

• 标题：Learning to Discover at Test Time

• 作者：Mert Yuksekgonul 1, Daniel Koceja 1, Xinhao Li 4, Federico Bianchi∗5, Jed McCaleb 3, Xiaolong Wang 4, Jan Kautz 2, Yejin Choi 2, James Zou 1,5, Carlos Guestrin 1, Yu Sun∗1,2

• 单位：1 Stanford University, 2 NVIDIA, 3 Astera Institute, 4 UC San Diego, 5 Together AI

• 链接：https://arxiv.org/pdf/2601.16175