⌘ K
… 读取采集状态 同步中...
雷
原文
大模型智能· Naixin·· 13 天前AI 评分37

ACL 2026杰出论文奖:PALU通过局部熵最大化实现精准大模型遗忘

ACL 2026 杰出论文奖 | PALU:在关键前缀上最大化局部熵,让大模型精准“失忆”

AI 导读

PALU(前缀感知局部遗忘)获ACL 2026杰出论文奖,通过仅优化敏感前缀词元的Top-K候选实现局部熵最大化,显著降低模型遗忘对通用能力的损害。在Llama-2-7B上,其Forget Quality达0.7126,比基线提升约13.4%,同时保持0.6238的Model Utility。该方法收敛速度快于NPO,在10%遗忘比例下仍能维持稳定的遗忘-效用平衡。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:大模型智能 · mp.weixin.qq.com