Anthropic 介绍了一种存储和整理记忆的架构,让智能体能在下一次会话中利用过去的工作。开发者可以利用空闲时间修正记录错误、构建探索地图,据此设计要记住什么以及何时重新审视。
1. 从记录到下一次会话的上下文,以四层结构连接
记忆是将经验中获得的知识存储下来,供下一次会话读取。它分为四层:可探索的工作记录、保留重要内容的笔记、串联这些内容的维基,以及在下一次会话中预先加载所需信息的上下文。底层是原始资料,上层是整理后的知识与可直接使用的记忆。
梦境是在会话之间的空闲时间回顾记录、修正或重新整理笔记的过程。Anthropic 将 Letta 和加州大学伯克利分校研究者提出的空闲时间计算,即不执行任务期间进行的计算概念,应用于记忆整理。
2. 由智能体判断如何使用记忆时,效果更明显
Anthropic 在 CL-Bench 1.0 数据库任务中,为每个问题开启新会话,仅延续记忆目录。模型在得到正确答案的反馈后,可以分析失败原因,并留下供下一题使用的规则。据公司公布的数据,使用记忆后,平均奖励,即任务得分的平均值有所提高,但增幅因模型而异。
表:CL-Bench 数据库任务中各模型的平均奖励
条件:CL-Bench 1.0 数据库任务,使用 Claude Managed Agents。每个问题开启新会话,使用记忆时保留目录。依据原文图片的替代文本。
单位:平均奖励
| 模型 | 不使用记忆 | 使用记忆 |
|---|---|---|
| Opus 5.5 | 0.655 | 0.838 |
| Sonnet 5.5 | 0.644 | 0.833 |
| Opus 5 | 0.564 | 0.828 |
| Opus 4.7 | 0.383 | 0.700 |
| Sonnet 5 | 0.306 | 0.610 |
| Sonnet 4.6 | 0.330 | 0.364 |
据公司公布的数据,Sonnet 4.6 仅使用记忆时提升较小,但在被要求读取记忆并在作答前检验假设后,得分升至 0.641。Sonnet 5 即使没有额外指示,也会在十次中有九次先读取记忆。
Anthropic 表示,对于能力较强的模型,让其判断内容的重要性,比固定要求记住哪些内容更有效。仅要求记录失败时,记忆带来的性能提升会减弱。
3. 好的记忆不在于多,而在于能够复用
《宝可梦 红》实验比较了每个模型单次运行至约 1万步时的记忆。据公司公布的数据,相比积累详细记录的 Sonnet 3.7,留下策略与后续计划的 Fable 5 用更少的文件获得了更多徽章。
表:宝可梦实验中的记忆规模与游戏进度
条件:每个模型运行一次,对比约 1万步时的情况。Fable 5 的文件数包含顶层文件。
| 模型 | 文件数 | 文件夹数 | 徽章数 |
|---|---|---|---|
| Sonnet 3.7 | 413 | 225 | 1 |
| Fable 5 | 10 | 2 | 4 |
Sonnet 3.7 从约 1万步开始,在 17 步内忙于创建六个文件、删除九个文件,没有在游戏中采取行动。该案例表明,相比记录可在画面中重新确认的状态,留下供下一步行动使用的策略更有用。
4. 梦境修正错误,并绘制通往所需记忆的地图
Anthropic 展示了宝可梦实验中的一个案例:梦境通过核对记录,修正了一条误记山口恢复设施位置的笔记。使用修正后记忆的运行返回山中,并抵达下一座城市。保留错误记忆的运行则三次折返先前的路线,最终未能翻越山地。
维基是连接主题知识与笔记的页面集合,充当寻找所需记忆的地图。Anthropic 针对约 35万份内部文档、约 4亿2千万个 token,评估了 25 个问题。据公司公布的数据,Opus 5 通过梦境扩充维基后,结合搜索的得分高于仅使用维基。
表:随着维基扩充,答案满足评分标准的比例变化
条件:使用相同的内部文档与 25 个问题进行评估。对比 Opus 5 构建维基的梦境会话达到 2 次与 128 次时的情况。
单位:%
| 回答所用资料 | 2 次时 | 128 次时 |
|---|---|---|
| 仅搜索 | 53 | 53 |
| 仅维基 | 13 | 48 |
| 维基与搜索 | 54 | 61 |
据公司公布的数据,结合维基与搜索还为每个问题节省了约 2万个 token。在并购资料的 24 个问题中,对于需要串联多份文档的项目,使用维基时得分为 87%,仅使用搜索时为 73%。
5. 记忆质量同时消耗计算与存储空间
探索过程中节省的部分成本,会转移到维护记忆所需的计算与存储空间上。据公司公布的数据,在一项法律任务中,由 10 份文档、115KB 内容整理出的维基,扩展为 68 个页面、255 个链接和 203KB。运行梦境同样需要计算,注入下一次会话的上下文也会占用 token。
在可直接从单份文档中找到答案的法律任务中,维基没有明显优势。每次都加载错误笔记,也可能导致错误反复出现。
Anthropic 将顶层记忆保持精简,通过链接查找细节。Claude Code 也只加载 MEMORY.md 的前 200 行或 25KB,将其用作索引,即便于快速查找内容的列表。
开发者可以考虑根据信息的易变程度或访问频率,调整梦境的运行时机。
智能体记忆的核心不在于存储更多内容,而在于验证记录,并按照下一项任务的需要分层整理。
