⌘ K
… 读取采集状态 同步中...
雷
原文
虎嗅APP·· 2026-07-30经营分64

智能体也许某天也要装上杀毒软件:浅谈AI智能体投毒

AI 导读

当AI智能体不再只是“动嘴”回答问题,而是能自己操作软件、读写文件、管理服务器时,投毒的后果就从“说假话”升级成了“干坏事”。本文深入拆解智能体投毒的四大常见场景与真实案例,并给出产品经理必须掌握的四层安全防护架构。 今年315晚会曝光了一件事:一款根本不存在的”Apollo-9智能手环”,靠十几篇自动生成的虚假测评软文,在两小时内就被主流大模型当成了”标准答案”推荐给用户。”量子纠缠传感””黑洞级续航”这种鬼话,AI照单全收。 这还只是干扰AI回答问题“嘴皮子”的层面。更值得警惕的是,当AI进化为智能体Agent——不再只是仅限于回答问题,而是能自己调工具、操作软件、读写文件、甚至管理服务器——投毒的后果就从”说假话”升级成了”干坏事”。 就像电脑普及催生了电脑病毒,智能体的能力越强,被投毒后的破坏力就越大,围绕它的黑灰产也正在加速形成。 一、什么是智能体投毒 智能体投毒,就是有人往AI智能体的输入数据、记忆系统、工具返回结果里塞恶意内容,诱导智能体跑偏、干坏事、泄密。 和普通大模型的”提示注入”不一样,智能体是有”手和脚”的。普通大模型被注入了,回答的内容如果内容真实性存疑或者插播

本文当前提供导读和图片预览,完整图文请查看原文。

来源:虎嗅APP · woshipm.com