直击WAIC丨如何缓解AI训练“效率瓶颈”?摩尔线程张建中:打造AGI“超级工厂”
专题:2025世界人工智能大会
新浪科技讯 7月27日午间消息,效率瓶颈2025世界人工智能大会(WAIC 2025)于7月26-28日在上海举办。直击张建中打造大会期间,丨何工厂摩尔线程首次提出了“AI工厂”理念,缓解公司创始人兼CEO张建中在分享中表示,训练线程“为应对生成式AI爆发式增长下的超级大模型训练效率瓶颈,摩尔线程将通过系统级工程创新,效率瓶颈构建新一代AI训练基础设施,直击张建中打造为AGI时代打造生产先进模型的丨何工厂“超级工厂”。

据悉,缓解摩尔线程提出的训练线程“AI工厂”,如同芯片晶圆厂的超级制程升级,需要实现从底层芯片架构创新、效率瓶颈到集群整体架构的直击张建中打造优化,再到软件算法调优和资源调度系统的丨何工厂全面升级。这种全方位的基础设施变革,将推动AI训练从千卡级向万卡级乃至十万卡级规模演进,以系统级工程实现生产力和创新效率飞跃。
具体而言,这座“AI工厂”的智能“产能”,由五大核心要素共同决定,其效率公式可概括为:AI工厂生产效率=加速计算通用性×单芯片有效算力×单节点效率×集群效率×集群稳定性。摩尔线程将以GPU通用算力为基石,将通过先进架构、芯片算力、单节点效率、集群效率优化与可靠性等协同等深度技术创新,将全功能GPU加速计算平台能力转化为工程级训练效率与可靠性保障。
在单芯片算力方面,摩尔线程的GPU单芯片基于MUSA架构的突破性设计,可集成AI计算加速、图形渲染、物理仿真及超高清视频编解码能力,充分适配AI训推、具身智能、AIGC等多样化应用场景。且在计算精度方面支持从FP64至INT8的完整精度谱系,并通过FP8混合精度技术,在主流前沿大模型训练中实现20%~30%的性能跃升。
在内存与通信效率优化上,摩尔线程内存系统通过多精度近存规约引擎、低延迟Scale-Up、通算并行资源隔离等技术,实现了50%的带宽节省和60%的延迟降低。在通信和互联领域,独创ACE异步通信引擎减少了15%的计算资源损耗,MTLink2.0互联技术提供了高出国内行业平均水平60%的带宽,为大规模集群部署奠定了坚实基础。
在构建高效集群的基础上,稳定可靠的运行环境是“AI工厂”持续产出的保障。特别在万卡级AI集群中,硬件故障导致的训练中断会严重浪费算力。摩尔线程创新推出零中断容错技术,故障发生时仅隔离受影响节点组,其余节点继续训练,备机无缝接入,全程无中断。这一方案使KUAE集群有效训练时间占比超99%,大幅降低恢复开销。(文猛)

责任编辑:王翔
(责任编辑:百科)
-
9月5日11点27分,3D玻璃板块指数报710.227点,涨幅达3%,成交51.99亿元,换手率2.44%。板块个股中,涨幅大的前5个股为:蓝思科技报10.28元,涨9.59%;华工科技报21.21元 ...[详细]
-
2021年银行存款利率迎来新变化,在银行存10万,一年的利息将减少900多
从6月21日起,我国的银行存款利率迎来大调整。虽然此次调整的仅仅是存款利率的报价机制,基准存款利率没有变化,但对目前各银行的实际存款利率还是产生了比较大的影响。那么,在调整之后,存款利率是涨了还是降了 ...[详细]
-
东南网7月17日讯福建日报记者 林丽明 廖丽萍) 16日,厦门海关举行上半年外贸进出口情况新闻发布会。记者从会上获悉,上半年,我省货物贸易进出口总值9200.2亿元,规模居全国第七位,其中,厦门市实现 ...[详细]
-
备孕是每个夫妻都要经历的过程,为了顺利怀孕,很多夫妻开始重视备孕期间的生活习惯和身体健康。其中一个备孕要注意的方面就是运动,许多人都担心备孕期间运动会不会导致体重下降。那么,备孕运动真的会使人减重吗? ...[详细]
-
9月5日11点27分,3D玻璃板块指数报710.227点,涨幅达3%,成交51.99亿元,换手率2.44%。板块个股中,涨幅大的前5个股为:蓝思科技报10.28元,涨9.59%;华工科技报21.21元 ...[详细]
-
东南网讯 近日,国际期刊《菌物检索》发表武夷山国家公园生物资源本底调查最新成果。江西农业大学联合福建省农业科学院食用菌研究所,在武夷山国家公园内发现了2个拟金钱菌属大型真菌新物种—&mda ...[详细]
-
中国建博会(广州)暨2024广州卫博会即将盛大开幕,精彩提前看!
【建材网】中国对外贸易中心集团有限公司、中国建筑装饰协会主办,中国林产工业协会、全国工商联家具装饰业商会支持的2024中国建博会广州)将于7月8日盛大开幕。展会以“冠军企业首秀平台&rdq ...[详细]
-
东南网7月18日讯海峡导报记者 曾宇姗 通讯员 江安娜 蔡伟鹏)“青春不散场,同路开盲盒,欢迎各位乘客来到美丽的海上花园厦门……”自7月14日开始, ...[详细]
-
老家平房室内设计图及效果图老家平房室内设计图及效果图是指对老家平房进行室内设计,并通过效果图展示出设计效果。老家平房是指传统的农村住宅,通常是一层的砖木结构房屋,具有浓厚的乡土气息。室内设计图和效果图 ...[详细]
-
今日大小指数再度呈现分化格局,创业板指5连阳,创3月底以来反弹新高,两市成交额连续四个交易日突破万亿。科技题材依旧是当下的主线,半导体、锂电等趋势板块持续受到资金追捧。板块方面科技题材依旧是当下的主线 ...[详细]