余弦：AI工具中的提示词投毒攻击警示

查找币:余老师 | 行业资讯 | 2025-12-29 02:02 | 7 次浏览 | 0 条回复

查找币行业资讯行业资讯 Web3安全区块链

在加密领域，安全永远是我们首要关注的焦点。最近，慢雾创始人余弦提醒用户要警惕AI工具中的提示词投毒攻击。这种攻击实际上是一种结合了新型社会工程学和自动化攻击的手段。攻击者会通过污染AI工具的提示词库，比如agents.md、skills.md或MCP协议中的预设指令，来诱导AI执行恶意操作。如果用户开启了工具的“危险模式”（即高权限自动化模式），那么AI可能会直接操控电脑而无需用户确认，从而导致设备被完全控制；如果未开启危险模式，则每次操作都需要用户确认，虽然可以降低风险但会牺牲效率。与其他相关案例结合起来看，这种攻击并不是孤立存在的，而是整个攻击链条中的一环。比如，虚假Zoom会议利用deepfake技术伪造与会人员、针对X平台的钓鱼邮件绕过垃圾邮件过滤系统、以及ComfyUI插件窃取浏览器密码等，都表明攻击手法日益精密化和跨平台化。攻击者通常会利用用户对官方域名、知名软件或AI生成内容的信任，通过伪造和投毒等手段渗透进来。核心问题在于，一旦私钥或助记词等敏感信息触网（比如通过云输入法或非官方应用），风险会急剧上升。Babur损失2700万美元的案例就是源自于电脑被投毒后私钥泄露，而AI辅助编写代码时可能会直接返回恶意代码，如ChatGPT返回的pump.fun交易bot代码，进一步模糊了“工具”和“威胁”的边界。为了防御这种攻击，我们需要采取多层次的措施： - 严格限制自动化权限，避免开启高危险模式。 - 验证所有外部资源（比如链接、插件、会议软件）的真实性，特别要警惕非官方来源。 - 隔离敏感信息，确保私钥永不触网，并使用系统内置输入法来减少攻击面。 - 对AI生成内容进行批判性审核，即使来源于可信平台也要小心谨慎。最终，安全是一种习惯，而不仅仅是一次性的行为。我们需要持续保持警惕，以及适应不断演化的攻击手法。本文由查找币安全团队整理发布

余弦：AI工具中的提示词投毒攻击警示

查找币 - 专业Web3安全服务