⌘ K
… 读取采集状态 同步中...
雷
原文
Ai2 News·· 2026-07-31AI 评分51

丹麦项目 FlexMoRE 基于 FlexOlmo 架构实现模块化 LLM 本地化训练

Modular LLMs at scale: how FlexOlmo is helping to pool national expertise without pooling sensitive data

AI 导读

丹麦基础模型项目 DFM 开发 FlexMoRE,基于 Ai2 的 FlexOlmo 混合专家架构,将多数专家替换为低秩适配器以减少参数量。该架构允许不同机构独立训练领域专家后合并,无需共享底层数据,最佳配置下用不到原基线三分之一的参数即可保持性能。项目旨在支持受隐私法规限制的机构在本地硬件部署丹麦语及其他低资源语言模型。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:Ai2 News · allenai.org