近年来,大语言模型智能体正从静态模型向具备自主推理与工具调用能力的动态系统演进,而程序性记忆(procedural memory)作为内化“如何做”知识的关键机制,有望显著减少冗余试错、提升任务泛化能力。然而,现有方法多采用“被动累积”范式,将记忆视为静态、仅追加的档案库,难以支持动态推理与持续优化。
为弥合静态存储与动态认知之间的鸿沟,**上海交通大学联合阿里通义的研究者们提出 ReMe(Remember Me, Refine Me)——一个面向经验驱动的智能体进化框架,通过多维度蒸馏、上下文自适应重用、基于效用的精炼三个核心机制重构记忆生命周期。**在 BFCL-V3 与 AppWorld 基准上的大量实验表明,ReMe 显著优于现有方法,刷新了智能体记忆系统SOTA。尤为关键的是,实验揭示了“记忆扩展效应”:配备 ReMe 的 Qwen3-8B 模型在 Avg@4 和 Pass@4 指标上分别超越无记忆的更大模型 Qwen3-14B 达 8.83% 与 7.29%,证明高质量的自进化记忆可作为一种计算高效、替代模型规模增长的终身学习路径。
论文标题:
Remember Me, Refine Me: A Dynamic Procedural Memory Framework for Experience-Driven Agent Evolution
论文链接:
https://arxiv.org/pdf/2512.10696
项目链接:
https://github.com/agentscope-ai/ReMe
01方法
图2 ReMe框架图
如图2所示,ReMe 框架包含三个相互关联的阶段:经验获取、经验重用和经验精炼。在经验获取阶段,总结模块分析智能体生成的轨迹(包括成功与失败的轨迹),并将其中可操作的知识提炼为结构化的经验池。在经验重用阶段,面对新任务时,检索模块从经验池中召回相关经验,这些经验随后被融入智能体的上下文,以增强其推理能力和任务求解表现。最后,在经验精炼阶段,系统持续优化经验池,通过纳入新的可靠经验并剔除过时经验,确保经验库在长期使用中保持相关性,并能适应不断变化的任务需求。
(1)经验获取
首先,将智能体经验ε定义为代理执行见解的结构化、可泛化的表示。每个单独的经验E ∈ε 表示为E = ⟨ ω, e, κ, c, τ ⟩,其中,ω指明指明何时使用该经验,e 表示核心经验内容κ = {κ1,κ2,…,κm}是用于分类的相关关键词集合,c∈[0,1]量化置信度分数,τ 表示所使用的工具。
ReMe 框架通过系统化流程构建高质量的初始经验池:首先,执行智能体 LLMexecute 在多个训练任务上采样多条执行轨迹,以覆盖多样化的成功与失败路径;随后,总结模型 LLMsumm对这些轨迹进行多维蒸馏,包括识别成功策略、分析失败原因以及对比成功与失败的关键差异,从而提炼出结构化、可复用的经验;接着,通过 LLM-as-a-Judge 机制验证经验的准确性、可操作性与价值,并利用相似度去重去除冗余内容,确保经验池的紧凑性与多样性;最终,所有有效经验以其使用场景的嵌入向量为索引,存入向量数据库。这一流程为后续高效检索和策略性推理提供了坚实基础。
(2)经验重用
在经验重用阶段,ReMe 通过检索、重排序与重写三步机制,将历史经验有效适配到当前任务:首先,利用高性能嵌入模型对任务查询与经验池进行相似性匹配,召回 top-K 最相关的经验;其次,可选地引入上下文感知的重排序模块(LLMrerank),结合当前任务的具体约束和目标,精细化评估经验的相关性;最后,通过重写模块将多条原始经验整合为一条连贯、聚焦且任务导向的指导文本,提升其直接可用性。这一流程不仅增强了经验的即时效用,还使智能体能够在复用既有知识的同时保持灵活、上下文敏感的推理能力,实现利用与探索的有机平衡。
(3)经验精炼
ReMe 框架通过经验精炼机制来实现经验池的动态优化,在添加新经验采用选择性添加策略:仅将成功完成任务的轨迹进行蒸馏,提炼出结构化、可复用的经验并存入经验池。尽管在初始构建阶段可通过多条失败轨迹的联合分析提取有价值的信息,但在实时任务执行中,单次失败轨迹往往缺乏足够的上下文支持准确归因,容易生成误导性经验。
此外,采用失败感知反思机制:当任务失败时,由 LLMsumm 分析失败原因并生成改进建议,LLMexecute 基于建议重新尝试,仅在新尝试成功时将所得洞见存入记忆,并限制最多进行 3 轮自我反思以防陷入无效循环。
ReMe持续记录现有体验的状态,包括总调用次数f和历史效用u,每次其调用有助于成功完成任务时,效用就会增加1。当经验 E ∈ ε 频繁被调用但未能提高新任务性能时,它将被删除:
通过整合上述组件,ReMe 构建了一个能够自我进化的经验池,既能保留高质量的经验以塑造智能体的长期行为,又能灵活适应新的任务需求。
02评估
表1 ReMe与基线模型在BFCL‑V3、AppWorld基准测试上的性能比较
表1展示了ReMe在Qwen3系列模型上于BFCL-V3和AppWorld基准测试中的主要结果。总体而言,**ReMe在三种不同模型规模下均取得了最高的平均任务成功率,始终优于无记忆基线方法以及其他具有竞争力的基线记忆系统。**具体而言,在Qwen3-8B模型上,ReMe相较于无记忆基线方法,在Pass@4指标上平均提升了7.29%,在Avg@4指标上平均提升了8.83%。Pass@4指标的提升表明,检索到的经验能够有效拓宽探索空间,从而提高在多次尝试中至少找到一个成功解决方案的概率。
**ReMe 动态版本在所有模型规模和基准测试中始终优于其静态版本,凸显了在任务执行过程中进行自适应经验精炼的重要性。此外,与基线方法相比,ReMe(动态)性能有突出的稳定性。**例如,LangMem在BFCL-V3上表现良好,但在AppWorld上的性能显著下降。相比之下,ReMe在BFCL-V3和AppWorld两个基准测试中均展现出卓越的一致性。ReMe 倾向于降低多次运行之间性能的标准差,尤其是在较大模型上更为明显。这表明 ReMe 不仅提升了整体性能,还增强了模型输出的鲁棒性与可靠性。
值得注意的是,配备ReMe的小模型可以与甚至超越无记忆的大模型。例如,Qwen3‑8B+ReMe(动态)的平均Pass@4分数超过了朴素Qwen3‑14B模型。类似地,Qwen3‑14B+ReMe(动态)超过了无记忆Qwen3‑32B的整体性能。这表明有效的记忆机制可以显著缩小不同模型规模之间的性能差距。
图5 使用与未使用 ReMe 时失败任务的统计情况
研究者对 Qwen3-8B 模型在 BFCL-V3 基准上使用与未使用 ReMe 时的错误模式进行了分析。图5(a)所示,失败案例总数从 62 个减少到 47 个。ReMe 修正了 17 个基线独有的错误,仅引入了 2 个新错误。此外,进行人工审查并对每类失败案例进行归类,以考察 ReMe 对不同错误类型的影响,如图5(b)所示。推理错误显著减少(从 22 降至 14),表明ReMe能有效利用过往经验,增强其多步推理能力,从而减少早期错误的传播。动作遗漏错误也出现了中等但具有实际意义的下降,这有助于智能体识别多轮任务中缺失的操作步骤,尤其是在需要顺序工具调用或状态追踪的任务中。
如何学习大模型 AI ?
由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。
但是具体到个人,只能说是:
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
第一阶段(10天):初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示(Embeddings)
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段(30天):模型训练
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段(20天):商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身:基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例:如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。
如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。