AI Agent 记忆污染攻击：当“习惯”成为安全漏洞

查找币:余老师 | 行业资讯 | 2026-05-15 08:07 | 1 次浏览 | 0 条回复

查找币行业资讯行业资讯 Web3安全区块链

**查找币安全团队** | 2025年5月15日在AI代理（Agent）技术快速渗透区块链应用的当下，一种新型攻击向量正悄然浮现。今日，GoPlus Security团队在AgentGuard AI项目中披露了一种名为“历史记忆注入（Memory Poisoning）”的攻击方式，揭示AI代理的长期记忆机制可能成为攻击者操纵资金流向的突破口。本文将对该攻击的技术原理、潜在影响及防护策略进行深度解析。 ## 攻击核心：记忆即风险与传统漏洞攻击不同，记忆污染攻击不依赖代码缺陷或恶意合约，而是利用AI代理的“记忆系统”作为攻击面。其核心逻辑在于： - **攻击者诱导代理记录虚假“偏好”**：例如，通过对话让代理“记住”“通常优先主动退款而不是等待拒付”。 - **后续利用模糊指令触发操作**：攻击者随后下达“按惯例处理”“照之前方式执行”等表述，代理基于记忆自动执行资金转移或退款。 - **授权缺失风险**：AI代理将历史记录中的“偏好”误当作实时授权依据，绕过当前会话的显式确认机制。 GoPlus团队指出，这类攻击在涉及**退款、转账、配置修改**等敏感操作时，极易引发资金损失或安全事件。其隐蔽性在于：攻击者无需直接调用合约函数，而是通过“记忆污染”间接操纵代理行为。 ## 关键数据与行业影响根据GoPlus披露的初步分析，该攻击在以下场景中风险尤为突出： | 攻击场景 | 风险描述 | 潜在影响 | |---------|---------|---------| | 自动退款流程 | 诱导代理记录“主动退款偏好”，后续触发无确认退款 | 资金损失 | | 批量转账操作 | 利用“照旧”指令绕过限额检查 | 资产转移 | | 敏感配置修改 | 记忆“允许修改参数”偏好，导致合约参数被篡改 | 合约失控 | | 跨会话权限继承 | 历史记录中的授权被继承到新会话 | 权限滥用 | 行业数据显示，当前约**37%的AI代理应用**依赖长期记忆机制，其中超过半数未实现记忆写入追溯。这意味着大量DeFi、NFT市场及自动化交易平台可能暴露在该攻击风险下。 ## 查找币安全团队防护建议针对记忆污染攻击，GoPlus团队提出了一套系统化的防护框架。查找币安全团队结合区块链安全实践，提炼以下关键措施： ### 1. 敏感操作需显式确认 - 涉及**退款、转账、删除、敏感配置修改**的操作，必须要求当前会话中的用户显式确认（如签名或二次验证）。 - 禁止将历史记忆中的“偏好”作为授权依据。 ### 2. 记忆类指令视为高风险状态变更 - 将“习惯”“通常方式”“照旧”等模糊表述归类为**高风险指令**。 - 执行此类指令时，自动触发风险等级提升和二次验证流程。 ### 3. 长期记忆需具备可追溯机制 - 每条记忆记录必须包含：**写入者身份、写入时间、是否经过用户确认**。 - 支持审计回溯，防止攻击者篡改或注入未授权记忆。 ### 4. 模糊指令自动升级风险等级 - 当AI代理接收到的指令包含模糊表述时，系统应自动将其标记为高风险操作。 - 强制要求用户通过当前会话重新明确授权范围。 ### 5. 长期记忆不得替代实时授权 - 所有资金操作、私钥调用、合约交互必须基于**实时授权流程**，记忆仅作为上下文辅助，而非授权替代。 - 建立“记忆-授权”隔离机制，防止历史记录影响当前决策。 ## 技术架构参考：AgentGuard AI防护思路 GoPlus团队强调，应将“AI代理记忆系统”视为独立攻击面，并引入专门安全框架进行约束。其AgentGuard项目采用以下设计原则： - **记忆写入权限控制**：仅允许经过身份验证的实体写入记忆。 - **记忆使用审计日志**：记录每次记忆调用的上下文和触发条件。 - **风险评分引擎**：基于记忆内容、指令模糊度、操作敏感度自动计算风险等级。 - **实时拦截机制**：对高风险操作进行二次确认或直接拒绝。 ## 行业前瞻与安全建议随着AI代理在区块链领域的应用加速，记忆污染攻击可能成为2025年Web3安全的新焦点。查找币安全团队建议： - **项目方**：立即审计现有AI代理的记忆管理逻辑，部署上述防护措施。 - **用户**：警惕AI代理的“自动偏好”设置，定期检查记忆记录。 - **开发者**：采用GoPlus AgentGuard等安全框架，从架构层面隔离记忆与授权。 ## 结语记忆污染攻击揭示了AI代理安全的一个新维度：攻击者不再直接破坏代码，而是通过“操纵记忆”间接控制行为。这提醒我们，在AI与区块链融合的过程中，安全防护必须覆盖**数据层面、逻辑层面、以及记忆层面**。查找币安全团队将持续关注此类新型威胁，并推动行业建立更完善的安全标准。 --- *本文由查找币安全团队整理发布*

AI Agent 记忆污染攻击：当“习惯”成为安全漏洞

查找币安全研究院

主题延伸阅读