⌘ K
… 读取采集状态 同步中...
雷
原文
三节课·· 19 天前AI 评分1

打破“算力存储通信”三堵墙,昇腾超节点给出十万亿大模型训推“最优解”

AI 导读

打破“算力存储通信”三堵墙,昇腾超节点给出十万亿大模型训推“最优解” 架构突破打底,工程细节搭桥,昇腾把千卡统成一台计算机。** 作者 |**云鹏 编辑 |**漠影 如果说2026年的AI圈只有一个关键词,那必然会是**“智能体(Agentic AI)”。** 从能聊到能干,智能体浪潮下,AI在各领域开始加速赋能,AI编程的爆发进一步带来生产力的质变,在各行各业掀起变革。 随之而来的是AI推理需求呈指数级爆发,**2030预计全球每月Token消耗数将超过120千万亿,暴涨24倍。** 为了支撑更强的Agent处理更复杂的任务,模型也越来越大,顶级MoE模型参数量直接来到“十万亿级”,训练压力同步增长。 既要支持更大规模模型高效训练,又要在推理端支持更长上下文,实现更低时延、更低成本、更高效率,这样的需求传统服务器难以应对,**“超节点”逐渐成为AI基础设施领域行业公认的更优解决路径。** 理想状态下,大量AI加速器紧密耦合成为一台更高密度的AI计算单元,超节点可以解决大模型训练和推理中的**“存储墙”和“通信墙”。** 但理想很丰满,现实很骨感,超节点落地需要克服诸多挑战。全球芯片巨

本文当前提供导读和图片预览,完整图文请查看原文。

来源:三节课 · mp.weixin.qq.com