本文来自微信公众号: 第四波 ,编辑:邱慧,作者:王晨,原文标题:《“天数智芯”们比拼超节点 单柜卡数之外还看什么?》
国产GPU厂商在提升单卡性能的同时,也开始通过高速互联将更多GPU连接起来,使其像一台更大的计算机一样协同工作。
第26届中国国际工业博览会上,天数智芯展示了在单柜中集成144颗GPU和18颗CPU的天垓300 IXL144,沐曦股份展出了16卡的曦景S600 Lite。同样被称为超节点,但产品规模却相差悬殊。
一个超节点应该做多大,既取决于模型需要多少算力和显存,也取决于这些芯片能否高效通信,以及客户能否用得上。
01
为何把更多GPU装进一个机柜?
超节点通过高带宽、低时延互联,把多个计算节点连接成协同工作的系统,既可以装在一个机柜中,也可以跨越多个机柜。单柜卡数反映的是物理集成规模,整个超节点能高效互联多少颗芯片,则取决于系统架构。把卡装进同一个机柜,只是其中一步。
显存是扩大互联规模的直接动力之一。7月发布Kimi K3总参数量达到2.8万亿,采用混合专家架构(MoE)。即使按每个参数4比特粗略估算,权重也需要约1.4TB存储,尚未计入量化元数据、部分参数采用更高精度带来的开销,以及运行时缓存。MoE每次只激活部分参数,降低了计算量,但完整模型的权重仍需要存储和调度。长上下文和较高并发通常还会增加缓存需求,具体占用取决于模型架构和部署方式。
工博会上,沐曦股份的工作人员告诉第四波:“现在要跑大模型,100张卡都不算多,关键便是显存。”
厂商也在为更大的模型预留空间。9月的云栖大会上,阿里披露Qwen 4正在训练,并提出未来模型向5万亿至10万亿参数扩展的规划。东方算芯市场部部长徐子鸣对第四波表示,公司目前的超节点机柜集成64张卡,未来将扩展到128张卡,但产品发布时间尚未确定。
在供电、散热和任务负载能够匹配的前提下,提高单柜算力密度,有望增加单位机房面积的Token产出。燧原科技的一位工作人员对第四波说:“为了让模型运行效率更高,客户会希望能在一个机柜里塞更多的卡。”
GPU之间的通信却可能限制这种收益。模型分布在多张卡上运行时,芯片需要交换中间结果;如果数据传输跟不上计算速度,更多GPU也可能花费大量时间等待。衡量超节点性能,需要同时看算力、显存,以及实际任务中的通信效率。
沐曦工作人员以8卡系统为例解释,芯片可提供的互连接口有限,扩大规模就需要相应的交换或网络设计。沐曦曦景S600在单柜内集成64颗GPU,通过自研MetaXLink互联,并可进一步扩展为万卡以上集群。这类集群扩展还需要配套的网络,最终效率取决于模型如何分配到不同节点,以及节点之间的数据交换。
随着互联范围扩大,传输距离、带宽和功耗也更难兼顾。光互联因此进入厂商的超节点及集群方案,试图降低大规模数据交换带来的传输开销。
9月17日,华为发布采用近封装光学(NPO)技术的昇腾960超节点,披露其可扩展至4096颗NPU。这是整个超节点的规模,并非单柜卡数。10月21日,英伟达在GTC柏林大会上宣布与矽品精密扩大共封装光学(CPO)所需光引擎的产能。两者面向不同系统设计,但都在应对算力规模扩大后的互联需求。
02
卡数之外,超节点还要比什么?
规模的选择最终还要回到客户需求。前沿模型需要更大的计算系统,其他客户却未必需要一次性采购上百张卡。
沐曦股份工作人员提到,国内超节点客户既包括头部模型厂商和互联网企业,也包括地方智算中心及一些中小企业。他对第四波说:“如果最初就按较大规模设计,面对需求较小的客户时,可能需要重新制定方案。以较小单元起步,则可以覆盖更多层次的需求。”
沐曦在工博会展出的曦景S600 Lite 16卡超节点,就面向相对轻量化的算力需求。据《IT时报》报道,这款产品的体积与传统8卡服务器相近,可以整机交付,为不需要一次性建设大型集群的客户提供了另一种选择。
采购成本之外,客户还要考虑设备投入使用后的维护和升级。当智算中心的建设、折旧周期长于芯片迭代周期,旧设备能否继续适配新模型,就会影响这笔投资的回报。
此前,一位国内GPU贸易商对第四波表示,不同厂商在新旧产品衔接、软件适配和后续支持方面存在差异,部分旧型号在新品推出后,仍需要客户投入工程资源维护。
因此,对智算中心而言,采购超节点不仅要考虑当前的算力需求,还需要评估未来能否继续扩容、原有设备能否适配新模型,以及后续的技术支持能否得到保障。这些因素都会影响设备整个使用周期的成本。
工博会现场,一位地方智算中心投资人也曾抱怨,芯片厂商几乎每年都会推出新一代产品,但一座智算中心从规划、建设到投入运营,往往需要两年甚至更长时间。到中心真正对外提供服务时,芯片产品可能已经更新换代,而客户往往倾向于使用最新的算力设备。
设备投入运行后,故障处理也是一笔成本。一位现场工作人员提到,大规模训练中,单卡故障可能使相关任务中断,需要从检查点恢复。增加卡数之后,客户还要考察一次故障会波及多少计算资源,以及恢复任务需要多久。
厂商也在调整产品设计。据沐曦介绍,S600减少了计算、交换节点及其连接处的线缆,并对计算、交换、供电和液冷等部分进行模块化设计,以降低安装和维护负担。对于天垓300 IXL144,《IT时报》援引展台人员的介绍称,144颗GPU可同时参与计算,也可按任务需要安排128卡承担主要计算、16卡作为冗余资源。
降低超节点的部署与维护成本,也成为英伟达近期在GTC柏林上展示的重点之一。10月21日,英伟达推出DSX POD模块化AI工厂参考设计,由合作伙伴在工厂内完成Vera Rubin系统及配套设施的集成和测试,再以模块化集装箱形式交付,现场仍需具备供电、冷却和网络等条件。
英伟达次日发布的Minerva运维平台,则汇集GPU、网络、存储及计算任务的运行数据,用于识别异常、定位故障,帮助运营商减少停机和性能下降造成的损失。
多家券商预计,国产超节点市场在未来几年将快速增长。今年4月,华泰证券测算,2025年国产超节点市场规模约为135亿元,预计2026年至2028年将分别增长至1001亿元、1996亿元和3414亿元。8月,中金公司预计2026年、2027年国产超节点机柜市场规模分别达到759亿元和2256亿元。国海证券的预测则更加乐观,预计2026年至2028年市场规模将分别达到889亿元、4151亿元和11089亿元。
对厂商而言,超节点市场需求的增长意味着新的发展空间,但随着更多企业进入这一市场,单柜卡数可能不再是衡量产品竞争力的唯一指标。除了算力性能和采购成本,客户还需要考虑后续维护、软件适配以及设备长期运行的稳定性。这也意味着,厂商之间的竞争将逐步从算力密度延伸至系统交付、运维支持和综合成本控制等方面。
