Manus团队揭秘让AI智能体高效工作的 “上下文魔法” Оригинал на китайском
旺晓通:深入浅出,轻松通晓
你有没有过这样的经历?跟智能助手说"帮我整理下这周的邮件,按优先级分类",结果它前两步还挺顺,到第三步突然开始重复操作,要么就是卡在某个地方半天没反应,最后告诉你"上下文过长,无法处理"。
我们解读最新技术,文末有相关信息。

作者:张长旺,图源:旺知识
这背后藏着一个AI行业的关键秘密:决定智能体(也就是能自主完成任务的AI)工作效率的,可能不是它有多聪明,而是它"记住信息"的方式。今天我们就来聊聊这个听起来很玄乎的"上下文工程"——一群工程师在打造Manus智能体时,踩了无数坑才总结出的实战经验,说不定能让你明白为什么有的AI像高效助理,有的却像刚入职的实习生。
一、为什么AI也需要"备忘录"?聊聊KV缓存的省钱之道
如果你问Manus团队的工程师,打造智能体最该关注什么,他们大概率会指着屏幕上的"KV缓存命中率"说:"就是它了。"

这东西听起来像电脑术语,其实原理很简单:你可以把它理解成智能体的"备忘录"。当智能体处理任务时,比如帮你分析一份财报,它会一步步调用工具——先打开文件,再提取数据,然后计算增长率,每一步的操作和结果都会记下来,形成"上下文"。下一次决策时,它就得回头看这些记录。
但问题是,上下文会越变越长。就像你写报告时,草稿纸越堆越厚,每次翻找前面的内容都要花更多时间。智能体也是如此,每一步新增的记录都会让它"重读"所有内容,既慢又费钱。
而KV缓存的作用,就是让智能体记住"已经看过的内容"。比如第一次分析财报时,它读了公司名称、营收总额这些开头信息;第二次继续分析时,只要开头没变,就不用再重新读一遍,直接用之前的"记忆"就行。这就像你翻书时夹了个书签,下次直接从书签处开始,省去了从头翻的功夫。
工程师们发现,这不仅能提速,还能大幅降低成本。用Claude Sonnet举例,缓存过的内容处理费用是0.3美元/百万token,没缓存的要3美元——差了10倍!要是处理大量数据,这省下来的钱可不少。

那怎么用好这个"备忘录"?有三个小技巧:
• 别随便改开头。智能体的"开场白"(比如系统提示)要是改了一个字,之前的缓存就全白费了。就像你在书签页画了个标记,下次找时就认不出原来的位置了。
• 只加不减。上下文里的记录就像日记,只能往后加新内容,别删前面的。删改会让缓存失效,还可能让智能体 confusion,就像你撕了日记里的某页,再回忆时就接不上了。
• 必要时标重点。有些情况下需要手动标记"这里可以缓存",尤其是系统提示的结尾,确保智能体不会白干活。
二、智能体的"工具箱管理术":不用的工具别扔,盖起来就行
如果你见过维修师傅的工具箱,会发现里面总有一些不常用的工具——旧螺丝刀、备用零件,虽然暂时不用,但扔了又怕哪天需要。智能体的"工具箱"也是一个道理。

随着智能体能力变强,它能调用的工具会越来越多:查网页的、处理文件的、运行代码的……就像师傅的工具箱越装越满。这时你可能会想:不用的工具是不是该拿走?省得智能体眼花,选错工具。
但Manus的工程师们试过之后发现,这是个坑。
为什么?因为工具列表通常放在上下文的开头,跟系统提示挨得近。一旦增删工具,就像你改了工具箱的标签,智能体之前对工具的"记忆"(也就是KV缓存)就全乱了,又得重新"认识"所有工具,既慢又容易出错。更麻烦的是,之前的操作记录里可能提到过这些工具,现在突然没了,智能体就会 confusion:"我之前用的那个工具去哪了?"
那怎么办?工程师们想出了个妙招:掩盖,而非移除。

简单说,就是不用的工具还放在工具箱里,只是暂时用布盖起来,不让智能体看到。比如处理文字时,就把代码运行工具盖起来;需要上网时,再把本地文件工具盖起来。
这就像你整理衣柜:冬天的大衣夏天不穿,不用扔掉,找个袋子套起来放衣柜顶层就行,秋天拿出来还能用。智能体也一样,被"盖住"的工具还在上下文里,缓存不会失效,之前的记录也能对上,只是暂时不被选中而已。
他们还发明了个小技巧:给工具起有规律的名字。比如所有网页相关的工具都叫"browser_xxx",命令行工具都叫"shell_xxx"。这样想让智能体只用浏览器工具时,只要设定"只看带browser_的"就行,不用一个个盖,效率高多了。
这么做的好处很明显:智能体不会因为工具变动而 confusion,缓存能接着用,处理速度和准确性都稳多了。就像师傅的工具箱始终整齐,想用什么一眼就能找到,不用每次开工前先整理半天。
三、当智能体"记不住"时:给它一本"笔记本"
你有没有过这种体验:开会时记笔记,内容太多写不下,要么简写,要么漏重点,回头看时一脸懵。智能体也会遇到类似问题——它的"脑子"(上下文窗口)容量有限,比如有些模型最多能记128K个token,但真遇到大任务,比如分析100页的PDF,这点容量根本不够用。

更麻烦的是,内容太多时,智能体还会变笨。就像人脑子里装了太多事,反应会变慢,决策也容易出错。而且,就算能记住,处理这么多内容的费用也不低——相当于你雇人抄书,字越多,花的钱越多。

那怎么办?Manus的工程师们想了个接地气的办法:让智能体学会用"笔记本"——也就是文件系统。
具体来说,智能体处理大文件时,不用把所有内容都记在上下文里,而是把关键信息存成文件。比如分析网页时,不用复制整页内容,存个网址就行;处理PDF时,把摘要写进一个文本文件,然后上下文里只记"文件存在哪个文件夹"。需要时,智能体自己去读文件,就像你翻笔记本查信息。
这招有三个好处:
• 省空间。上下文里只留"文件名"和"简要说明",就像笔记本的目录,不用堆满细节,再也不怕超过容量限制。
• 保准确。信息存在文件里,不会因为上下文太长而被遗漏或误读,就像你把重要数据写在笔记本上,比记在脑子里可靠。
• 降成本。少处理冗余内容,自然能省不少钱,就像抄书时只抄目录,比全抄省时间。
工程师们还发现,这种方式可能适合更高效的AI模型。现在主流的Transformer模型虽然强,但处理长内容时效率一般;而另一种叫SSM的模型,虽然不擅长记长内容,但如果能配合文件系统"记笔记",可能会跑得更快、更省资源。说不定未来的智能体,都会带着个"笔记本"上班。
四、智能体也会"走神"?用"待办清单"把它拉回来
你有没有过这种经历:写报告时,本来要分析数据,结果突然想起要查资料,查着查着又刷起了网页,最后忘了最初要干嘛。智能体处理复杂任务时,也会犯类似的"走神"毛病。

Manus的工程师们观察到,他们的智能体平均要调用50次工具才能完成一个任务——这相当于你连续做50步操作,很容易跑偏。比如帮你整理会议纪要,本来要提取行动项,结果可能沉迷于翻译某个专业术语,忘了主线。

怎么让智能体专注?他们从生活中找了个灵感:待办清单。
智能体会在处理任务时,生成一个todo.md文件,里面列着要做的事。每完成一步,就打个勾,再更新清单。比如"1. 提取会议中的行动项;2. 按负责人分类;3. 整理成表格",做完第一步就标上"已完成",再检查下下一步该干嘛。
这个简单的动作,其实在操控智能体的"注意力"。就像你工作时,把待办清单贴在电脑旁,每看一眼就提醒自己"别跑偏"。对智能体来说,这个清单会被放在上下文的末尾,而AI模型对最近的内容更敏感——相当于把重要目标放在它的"视线范围内"。
这招特别管用,能避免"中间遗忘"的问题。比如处理多步骤任务时,前面的操作和结果越来越多,智能体很容易忘了最初的目标。有了待办清单,它会不断"复读"自己的任务,就像登山时不断看山顶,才不会在半山腰绕路。
更妙的是,这不需要改模型本身,只用自然语言就能做到。就像你不用给大脑装什么特殊装置,一张待办清单就能提高专注力——简单,却有效。
五、别擦掉智能体的"错题本":错误是最好的老师
如果学生做错了题,老师会让他把错题擦掉吗?显然不会。错题是学习的重要素材,智能体也一样。

Manus的工程师们发现,很多人打造智能体时,总想着"掩盖错误":智能体操作失误了,就删掉记录,让它重跑;环境出问题了,就重置状态,假装没发生过。看似能让过程更"完美",实则丢了让智能体进步的机会。

为什么?因为错误里藏着重要信息。比如智能体调用工具时参数错了,返回"无效输入",这个记录要是留着,下次它就会知道"这个参数不能这么填";如果删掉,它可能会再犯同样的错,就像学生擦掉错题,下次还会做错。
工程师们把这种思路总结为:保留错误,让智能体从自己的"错题本"里学习。
具体怎么做?很简单:上下文里不仅要记成功的操作,也要记失败的尝试——哪个工具调用错了,返回了什么错误,甚至是混乱的日志。这些"不完美"的记录,会成为智能体调整决策的依据。
举个例子:智能体尝试运行一段代码,结果报错"语法错误"。如果保留这个错误,下次它就会检查语法;如果删掉,它可能会反复提交同样的错误代码,浪费时间。
这种方式还能让智能体更"像人"。现实中,谁工作没犯过错?重要的是能从错误中恢复。工程师们认为,判断一个智能体是否真的"智能",不光看它能完成多少任务,更看它遇到错误时能不能调整——就像评价一个人,不光看他的成功,也看他的抗挫折能力。
六、别让智能体掉进"套路陷阱":多样化才能更灵活
你有没有见过这样的机器人:只会重复固定动作,比如一直挥手,就算你让它停下也停不下来。智能体如果训练不当,也会陷入类似的"套路陷阱"——只会机械重复某个操作,不会灵活应变。

这背后的问题,叫"少样本陷阱"。简单说,就是如果智能体看到的例子太单一,就会学出刻板的"套路"。比如你总让它用同样的格式调用工具,它可能就只会这一种格式,换个场景就懵了。
Manus的工程师们就遇到过这种情况:让智能体批量处理网页时,前两次都是"打开页面→保存内容",结果后面18次,它全按这个套路来,哪怕有的页面根本不用保存,也照样操作,纯属浪费功夫。

怎么破?增加多样性,让智能体看到不同的"玩法"。
工程师们的做法很巧妙:在上下文里故意加入一些"小变化"。比如调用工具时,有时用"打开链接:xxx",有时用"执行操作:打开网页 xxx";记录结果时,有时加时间戳,有时不加。这些细微的差异,能打破刻板的套路。
效果很明显:智能体不会再机械重复,而是会根据具体情况调整操作。比如处理需要分析的网页,它会多一步"提取关键信息";处理简单的页面,就直接保存——就像人做事,会根据任务灵活调整,而不是死按模板。
这背后的道理,跟教育很像:如果老师只讲一种解题方法,学生就只会套公式;如果多讲几种思路,学生才能举一反三。智能体也一样,多样化的上下文能让它更灵活,更能应对复杂的现实场景。
结语:上下文工程,决定智能体"好不好用"的关键
看完这些,你大概明白了:打造一个好用的智能体,不光要靠强大的模型,更要靠对"上下文"的精心设计——就像造房子,不光要选好材料(模型),还要搭好框架(上下文)。

Manus团队在反复试错中总结的这些经验——用好缓存、管理好工具、学会用文件系统、记待办清单、保留错误、保持多样性——本质上都是在回答一个问题:如何让智能体更高效、更可靠、更灵活地完成任务。
未来的智能体可能会更聪明、更强,但无论模型怎么进步,"上下文"这个基础都不会变。毕竟,再强的大脑,也需要清晰的记忆、有序的工具和从错误中学习的机会——这一点,智能体和人,其实很像。
如果你也对智能体感兴趣,不妨从这些"接地气"的技巧开始琢磨。说不定下一个让AI更好用的创新,就藏在这些细节里。
参考资料
• Context Engineering for AI Agents: Lessons from Building Manus, Manus团队, https://manus.im/blog/Context-Engineering-for-AI-Agents-Lessons-from-Building-Manus