官方网站-首页官方网站-首页

新闻资讯
华为推出昇腾超节点技术,成功实现业界最大规模 384 卡高速总线互联
2025-05-26 09:30:04
461次

【导语】2025年5月23日,华为在鲲鹏昇腾开发者大会上震撼发布昇腾超节点技术,成功实现了业界最大规模的384卡高速总线互联。该技术打破了传统服务器通信带宽的限制,通过创新的对等计算架构和高速总线互联,显著提升了AI模型训练的性能,为未来更大规模的模型演进提供了强有力的支撑。性能测试数据显示,昇腾超节点集群在多模态、MoE等模型上的性能提升显著,引领了AI计算架构的新一轮创新升级。

华为推出昇腾超节点技术,成功实现业界最大规模 384 卡高速总线互联

  2025 年 5 月 23 日,在鲲鹏昇腾开发者大会 2025 —— 昇腾 AI 开发者峰会上,华为推出了昇腾超节点技术,成功实现业界最大规模的 384 卡高速总线互联

  当前,大模型发展呈现参数与效率交替演进的态势:一方面,Scaling Law 不断推动模型能力突破极限;另一方面,以 DeepSeek 为代表的创新架构与工程技术,正加速模型能力在千行万业的落地应用。在此背景下,MoE 成为主流模型结构,其复杂的混合并行策略带来巨大挑战,TP、SP、EP 单次通信量高达 GB 级且难以掩盖。随着并行规模持续扩大,传统服务器跨机带宽已成为训练的核心阻碍,亟需计算架构的创新升级以适配未来模型发展。

  传统服务器依赖以太网络实现跨机互联,通信带宽较低。实践表明,当 TP、SP 或 EP 等分布式策略的混合并行域超过 8 卡时,跨机通信带宽便成为性能瓶颈,导致系统性能大幅下降。

  据介绍,华为昇腾超节点打破了以 CPU 为中心的冯诺依曼架构,创新提出了对等计算架构,凭借高速总线互联技术实现重大突破,把总线从服务器内部,扩展到整机柜、甚至跨机柜。在超节点范围内,用高速总线互联替代传统以太,通信带宽提升了 15 倍;单跳通信时延也从 2 微秒做到 200 纳秒,降低了 10 倍,使集群如同一台计算机般协同工作,有效突破系统性能限制。

  从华为中国官方获悉,此次推出的昇腾 384 超节点,由 12 个计算柜和 4 个总线柜构成,是目前业界规模最大的超节点。依托华为(wèi)在(zài) ICT 领(lǐng)域深(shēn)厚(hòu)的(de)技(jì)术(shù)与(yǔ)工(gōng)程(chéng)经(jīng)验(yàn),通(tōng)过(guò)最(zuì)佳(jiā)负(fù)载(zài)均(jūn)衡(héng)组(zǔ)网(wǎng)方(fāng)案(àn),该(gāi)超(chāo)节(jié)点(diǎn)可(kě)进(jìn)一(yī)步(bù)扩(kuò)展(zhǎn)为(wèi)包(bāo)含(hán)数(shù)万(wàn)卡(kǎ)的(de) Atlas 900 SuperCluster 超(chāo)节点集群,为未来更大规模的模型演进提供支撑。

  性能测试数据显示,在昇腾超节点集群上,LLaMA 3 等千亿稠密模型性能相比传统集群提升 2.5 倍以上;在通信需求更高的 Qwen、DeepSeek 等多模态、MoE 模型上,性能提升可达 3 倍以上,较业界其他集群高出 1.2 倍,在行业中处于领先地位。

物联云科技是一家科技创新型企业,致力于物联网智能化技术及产品的推广应用,是国内领先的物联网产品与解决方案提供商。

公司官网:🆖com 平台官方网站
公司地址:深圳市南山区粤海街道高新区社区科技南三路007号

企业公众号
扫码关注企业公众号
掌握最新资讯
本站部分图文来源网络,如有侵权问题请通知我们处理!