⌘ K
… 读取采集状态 同步中...
雷
原文
AITNT AI日报·· 2001-10-12经营分36

北京邮电大学 MiTA 用快权重视角重构高效注意力,NeurIPS 2026 论文开源

注意力也是FFN?从快权重出发,重新理解高效注意力 |NeurIPS'26

AI 导读

北京邮电大学团队提出 MiTA 注意力机制,已发表于 NeurIPS 2026 并开源代码。该模型通过地标查询构建可复用的 Top-k 专家,在 ImageNet-1K 图像分类任务中达到 79.8% 的 Top-1 准确率。实验显示其将长序列训练时间从 10.6 小时降至 2.4 小时,推理吞吐量最高提升 159 倍。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:AITNT AI日报 · aitntnews.com