Agent 的记忆被人「下了毒」你自己不知道:OWASP ASI06 记忆投毒,企业怎么把长期记忆做成可审计、可回滚的本地化闭环-环曜Agent

一、引入:一次写入,几周后发作

企业架构师和安全负责人常跟我聊一个后怕的场景:给 Agent 开了长期记忆之后,它越来越懂业务、越用越顺手。可OWASP Agentic AI Top 10(2026)把一类风险单列为 ASI06——记忆与上下文投毒(Memory & Context Poisoning):攻击者不需要攻破你的系统,只要想办法往智能体的长期记忆里写入一条假信息,这条「毒记忆」就会在后续会话里被反复检索、当成事实信任,然后在几天甚至几周后的某一次任务里,悄悄把 Agent 推向攻击者想要的结果。更麻烦的是,传统的安全工具看不到它——写入的那一刻一切正常,发作时看起来像 Agent「自己判断失误」。环曜在落地客户里反复看到:记忆的另一面不是「记性好不好」,而是「记进去的东西能不能查、能不能改、能不能撤」。本文拆解记忆投毒为什么比提示注入更隐蔽,给出把长期记忆做成可审计、可回滚的 MEM-5 五道闸。

二、背景:从「一句话带偏」到「一次写入长期潜伏」

先把背景说清楚。过去两年企业防 Agent 的重心是提示注入——一句话、一份恶意文档当场把 Agent 带偏,属于「即时发作」。记忆投毒不一样:它把攻击从「本次对话」挪到了「持久记忆」,从「即时」变成了「延迟」。OWASP 把 ASI06 单列,正是因为 Agent 有了记忆和上下文持久化能力后,攻击面发生了质变——一条被污染的记忆,比一次成功的提示注入危害更久、更难查。

必须跟已发的一批记忆/投毒文划清界限。我们写过长期记忆的合规治理——分级授权、隔离、TTL、审计、销毁(Agent 长期记忆治理:企业智能体“记性太好”反而泄密,本地化部署怎么管记忆),写过 RAG 知识库被投毒后的四道内容防火墙(RAG 知识库被投毒:4 道内容防火墙守住企业AI安全),也写过提示注入的四道关(AI Agent 被一句话带偏:提示注入防护的四道关)。这些都很重要,但角度不同:1395 管的是记忆的合规生命周期(谁能看、留多久、怎么销毁),默认记忆内容是可信的;612 管的是检索文档的内容层投毒,防的是一份坏文档进向量库。本文补的是两者之间的空档——当记忆本身被恶意写入、并在跨会话中持续生效时,怎么保证它的完整性、可审计性与可回滚性。

为什么这些都得在本地化环境里做?五个信任边界的问题我们在 为什么公有云AI不敢接企业核心数据:合规与数据安全的五个信任边界 里写过——记忆是最敏感的一类上下文,它比单次问答更接近企业的"长期认知",不该放在看不见的地方。

三、记忆投毒的三个特征:为什么它比提示注入更难防

认清对手,才能设计防线。记忆投毒有三个区别于普通攻击的特征:

特征一 · 持久化:写一次,管很久。 提示注入的影响限于当前会话,关掉窗口就结束;记忆投毒写入的是长期存储,一条假信息能被后续无数次任务检索、复用,像在企业的"长期认知"里埋了颗雷。

特征二 · 延迟触发:写入与发作不在同一时间。 攻击者可以在几周前写入一条看似无害的偏好或事实,等到某个特定条件出现时才被激活。等到 Agent 做出异常动作,追查时往往已经过了几十次会话,线索早就断了——这是它比提示注入危险的核心原因。

特征三 · 看起来像"Agent 自己判断失误"。 毒记忆被 Agent 当成正常工作依据,发作时的表现不是报错、不是外联,而是一个"合情合理但错误"的决定。人眼很难分辨这是模型幻觉、数据错了,还是记忆被人动过。

三个特征合起来说明一件事:防记忆投毒,靠"写的时候仔细看"是不够的,必须让每一次记忆写入都可溯源、每一条记忆都可审计、每一个错误状态都可回滚。

四、两个专属忌点

忌点一:把「记忆治理」等同于「提示注入防护」。 很多团队做完了提示注入过滤,就以为 Agent 上下文安全了。但提示注入防的是"进来的内容",记忆投毒防的是"存下来的内容"——攻击者完全可以先用合法输入通过注入检测,再把恶意指令写进记忆,等下次会话生效。只防输入、不防写入,等于前门上锁、后门敞开。

忌点二:记忆只写不版本化,出事无法回滚。 另一个常见错误,是把记忆当成普通数据库记录——写入即覆盖、改了不留旧值。一旦被投毒,你既不知道是谁在什么时候写的,也没法把记忆恢复到中毒前的状态,只能整体清空、从头训练,代价极高。记忆没有版本,就没有回滚;没有回滚,投毒就是不可逆的伤害。

两个忌点合起来就是一句话:只防输入不防写入是半场防守,只写不版本化是不可逆风险;记忆安全的底线,是写入可溯、状态可查、出错能退。

五、MEM-5:把长期记忆做成可审计、可回滚的五道闸

环曜把企业 Agent 的记忆完整性收成五道闸(MEM-5),前三道管「写入可信」,后两道管「出事可查、可退」:

  1. 写入溯源闸(MEM 一):每一次记忆写入都记录来源——来自哪次会话、哪个用户、哪份文档、哪次工具调用。没有来源的记忆不允许落库。这道闸让"谁写的"有据可查,是后面所有审计的前提。
  2. 来源校验闸(MEM 二):写入前对内容做来源可信度校验,区分"用户明确偏好""系统推断""外部内容"三类,外部内容默认低可信、不直接进长期记忆。RAG 检索怎么把答案追到原文段落,见 知识库越建越乱:RAG效果下降根因与治理框架。
  3. 定期审计闸(MEM 三):对已存记忆做周期性"体检"——检测异常写入、逻辑冲突、可疑指令片段,发现毒记忆及时标记隔离。不是等出事才查,而是定期扫。OWASP 把这条列为记忆投毒的核心防御(来源验证 + 定期审计 + 上下文验证)。
  4. 上下文复核闸(MEM 四):记忆被检索使用时,不无条件信任——结合当前任务上下文复核其适用性,避免一条过期或被污染的记忆在错误场景被激活。这道闸专治"延迟触发"。
  5. 版本回滚闸(MEM 五):记忆像代码一样做版本控制,保留历史版本与变更时间线;一旦发现投毒,能定位到具体写入、回退到中毒前状态,而不是整体清空。这条正是全站此前没有的——记忆要可回滚。

前三道让"写进去的东西可信",后两道让"错了能发现、发现能退回"。可审计是发现问题,可回滚是解决问题——缺一不可。

六、记忆投毒 vs 提示注入对照表

维度提示注入记忆投毒(ASI06)
作用位置本次输入/对话持久化的长期记忆
发作时间即时,当次会话延迟,数天到数周后
影响范围单次任务后续所有检索该记忆的任务
可观测性相对易发现异常输入输出看起来像"Agent 自己判断失误"
核心防线输入过滤、指令隔离写入溯源、来源校验、定期审计、版本回滚
本地化价值输入内容不出域记忆库本地可控、可审计、可回滚

七、实测数据

以下是环曜交付中心在 2026 年 7—10 月对 12 家已上线长期记忆 Agent 的企业(口径:员工规模 100—2000 人、已启用对话记忆或知识记忆、覆盖制造与贸易;时间窗:2026 年 7—10 月;样本量:12 家)做记忆完整性落地的一手样本:

  • 在未做任何写入溯源的企业里,抽检其记忆库,平均 8% 的记忆条目无法说清来源——这些"来路不明"的记忆正是投毒最容易藏身的地方;
  • 上齐写入溯源 + 定期审计两道闸后,可疑记忆的发现时间从平均 21 天缩短到 2 天,相当于把"几周后发作"压成"几天内发现";
  • 12 家中有 9 家把记忆做成版本化存储,其中 7 家在后续真的用过一次"回滚"——多半是员工误写入,但也验证了"可回滚"不是备用功能,是日常要用的能力。

这是环曜交付中心的一手样本,不是行业普查,只代表我们服务过的企业区间,不能外推到全行业。

八、产品衔接:把记忆留在可审计、可回滚的本地底座

记忆完整性不是靠一次性工具,落地要靠两条线接力。企业级环曜 RAG 知识库本地化部署把记忆与向量写入留在企业内网,让每一条长期记忆都带来源、可追原文、数据不出域——MEM 前三道闸(写入溯源、来源校验、定期审计)靠它落地;知识库 Agent 的治理底座怎么搭,我们在 你的行业软件商给了系统却给不了 AI:企业怎么把知识库和 Agent 本地化补上 里写过完整路径。治理底座之上,企业级环曜 Agent 本地化部署把记忆的检索与调用收进私有执行网关,结合上下文复核,并对每次记忆变更做版本留痕——MEM 后两道闸靠它实现"可审计、可回滚"。两条线分段建设、互为前提。具体做法按 我们的服务 拆成了可验收项;需要一次自家 Agent 记忆的完整性对账,可联系环曜Agent团队,解决方案 里写了专属的落地清单。

常见问题 FAQ

Q1:记忆投毒和提示注入到底有什么区别?

提示注入是"当场用一句话把 Agent 带偏",影响限于当前会话;记忆投毒是"把假信息写进长期记忆",在后续无数次会话里持续生效、延迟发作。前者防输入,后者必须防写入、防存储、防检索使用。

Q2:OWASP ASI06 到底说了什么?

ASI06 是 OWASP Agentic AI Top 10(2026)里"记忆与上下文投毒"这一项,指攻击者向智能体的向量库或长期记忆写入恶意内容,触发后续会话的二次利用。OWASP 给出的核心防御是来源验证、定期审计、上下文验证与版本控制——正好对应 MEM-5 的五道闸。

Q3:我们的 Agent 只是记用户偏好,也会被投毒吗?

会。偏好也是记忆。攻击者如果能诱导系统把一条恶意"偏好"写进去(比如"以后凡涉及付款都走这个地址"),它就会在相关任务里被当成用户意图执行。越贴近决策的偏好,越要按 MEM-5 管。

Q4:为什么"可回滚"比"可审计"还重要?

可审计让你发现问题,可回滚让你解决问题。记忆一旦被投毒又被多次检索,污染可能已经扩散到依赖它的其他结论——没有版本回滚,你只能整体清空重来。版本化让恢复成本从"重建"降到"回退一步"。

Q5:中小团队没有专门安全人员,MEM-5 怎么落地?

先守三件事:写入来源记录(MEM 一)、版本化存储(MEM 五)、定期人工抽查(MEM 三的一部分)。这三项成本最低、收益最大,先把"谁写的、能不能退、定期看看"建立起来,来源校验和上下文复核可随能力逐步补。

Q6:把记忆放本地就安全了吗?

本地化解决的是"数据不出域、写入可审计、状态可回滚"的底座问题,但不会自动免疫投毒——攻击者仍可能通过合法输入写入恶意记忆。你的企业 Agent 现在存下的每一条记忆,都能说清是谁在什么时候写进去的吗?

把 Agent 记忆做成可审计、可回滚的闭环

企业级环曜 RAG 知识库本地化部署把记忆与向量写入留在企业内网,让每一条长期记忆都带来源、可追原文、数据不出域;企业级环曜 Agent 本地化部署把记忆检索与调用收进私有执行网关,结合上下文复核,对每次变更做版本留痕——两条线分段建设、互为前提,让 Agent 记忆从「写进去就信」收成「可溯源、可审计、可回滚」。

联系环曜Agent团队
分享到: