电信阿里联手!打造10万卡智算集群:性能提升9.3倍!


快科技4月8日消息,由中国电信广东公司联合阿里云共同建设的粤港澳大湾区首个基于“真武”芯片的万卡智算集群,近日在韶关数据中心集群正式上线。阿里云表示该集群预计扩容至10万卡规模。

该集群实现了从芯片、云平台到模型应用的全链路自主研发,是国家“超大规模智算集群”新基建在大湾区的首个落地项目。

技术上,集群通过卡间RoCE高性能组网与双平面多轨通信技术,端到端网络时延低至4微秒,网络峰值利用率超过95%。

同时,真武芯片整机提供1.5T超大显存,卡间互联带宽超过700GB/s,为国产算力底座提供了坚实支撑。

值得一提的是,相较传统单机部署模式,集群单卡吞吐性能提升达9.3倍,每秒Token生成总量提升近10倍。

集群提供IaaS、PaaS、MaaS全栈AI智算云化产品服务,训练与推理效率提升超过30%。

集群支持DeepSeek-V3.2满血版、Qwen3.5-397A-A17b等业内领先开源模型实现单机快速部署。

目前,该集群已在多个行业场景落地。尤其是在医疗民生领域,上线的“全诊通”应用,已在中山大学肿瘤防治中心等医院开展国产化迁移与应用试点。

为进一步推动算力普惠,集群资源已同步上架“广东电信算力超市”,面向中小企业提供按卡、按小时计费的算力零售服务。

【本文结束】如需转载请务必注明出处:快科技

责任编辑:红茶

]article_adlist–>

            <!-- 非定向300*250按钮    17/09  wenjing  begin -->
            <!-- 非定向300*250按钮  end -->
        </div>



Source link

未经允许不得转载:紫竹林-程序员中文网 » 电信阿里联手!打造10万卡智算集群:性能提升9.3倍!
关于我们 免责申明 意见反馈 隐私政策
程序员中文网:公益在线网站,帮助学习者快速成长!
关注微信 技术交流
推荐文章
每天精选资源文章推送
推荐文章
随时随地碎片化学习
推荐文章
发现有趣的