⌘ K
… 读取采集状态 同步中...
雷
原文
MarkTechPost· Asif Razzaq·· 9 天前精选AI 评分77

Aleph Alpha 发布 Kolibri:78.1B 参数量、3.46B 激活参数的英德开源 MoE 模型

Aleph Alpha Releases Kolibri: A 78.1B Open-Weight English-German MoE Model With Only 3.46B Active Parameters

AI 导读

Aleph Alpha 发布了英德双语开源权重 MoE 模型 Kolibri。该模型总参数量 78.1B,每 token 仅激活 3.46B,支持 1,048,576 上下文长度,采用 Apache 2.0 协议在 Hugging Face 提供。

推荐理由

原文提供了模型在英德双语下的基准对比和单卡部署参数,便于评估其落地成本。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:MarkTechPost · marktechpost.com