⌘ K
… 读取采集状态 同步中...
雷
原文
新智元· 新智元·· 29 天前AI 评分51

CAITLYN:面向LLM Agent的自进化防御系统应对新型prompt注入攻击

网页藏毒,劫持Agent?你需要会「追凶」的自进化女警系统

AI 导读

研究人员提出CAITLYN,一套针对LLM Agent的自进化防御中间件,用于应对新型prompt injection攻击。系统采用System I(快速运行时防御)与System II(反例驱动进化)双层架构,外部内容先经低成本脚本和规则筛选,再由LLM classifier处理模糊案例;漏网攻击被转化为反例,自动合成并验证新的防御技能后写入共享技能库。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:新智元 · mp.weixin.qq.com