⌘ K
… 读取采集状态 同步中...
雷
原文
Anthropic Research·· 2025-10-09精选AI 评分75

Anthropic 联合研究发现,仅 250 份恶意文档即可在任意规模 LLM 中植入后门

A small number of samples can poison LLMs of any size

AI 导读

Anthropic 与英国 AI 安全研究所、艾伦·图灵研究所联合研究表明,只需在预训练数据中注入 250 份恶意文档,就足以在 600M 至 13B 参数的大语言模型中植入后门。研究发现,投毒攻击的有效性取决于恶意文档的绝对数量,而非其占总训练数据的比例,这意味着即使大模型使用了多倍的数据量,少量的固定投毒样本也能产生显著影响。

推荐理由

研究指出,对于 600M 到 13B 参数的模型,仅 250 份恶意文档就足以植入后门,说明数据投毒攻击所需的样本量可能远低于此前认为的比例关系。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:Anthropic Research · anthropic.com