算力和算力是不一样的---中国急缺中高端算力
我看到有人说,中国国内建的一些智算中心硬件算力闲置率很高,因此算力是过剩的,并不怕美国封锁英伟达芯片。
国内互联网公司需要算力的话,那么完全可以租用这些算力中心的算力资源。
但其实这是误解,是错误的想法,AI芯片是有性能之分的,虽然都可以提供算力,但是千差万别。
互联网公司由于商业竞争,对于算力卡性能有很高的要求,是用不了这些闲置低端算力的。
打个比方大家就容易明白,同样是拉货,家用轿车和重卡都能拉东西,可不能指望轿车拉二十吨钢材,变速箱全扛不住,AI芯片的差距也是这个道理。
刷网页、跑小模型这类轻活,中低端卡勉强应付,可一旦训练千亿参数的大模型,差距立刻暴露,显存、精度、卡间带宽,每项都有硬门槛。
训练大模型对芯片要求格外苛刻,参数动辄千亿上万亿,单张卡装不下,必须拆开放到几千上万张卡上同时算,要求卡间高速交换数据。
高端芯片自带高速互联通道,数据在集群里跑得顺畅,多卡协同效率较高,低端芯片只能走普通通道,通信开销吃掉大半算力,卡越多拖得越慢,堆再多也拼不成能打硬仗的队伍。
显存限制同样绕不开,训练时除了模型权重,还要存梯度、优化器状态和中间激活值,按通用方式粗算,每个参数占十几字节存储,几百亿参数摊下来就是几十上百GB显存。
低端卡显存小,塞不下只能把批次拆碎,速度跟着掉一个量级,就像写字要摊开一整张书桌,结果只给巴掌大的垫板,写几个字就得挪一次。
这种冷热不均已经摆得很明显,截至2025年国内智能算力供算量约38亿卡时,实际用算量14亿卡时左右,占比不到四成,不少西部千卡级智算中心上架率不足50%,已上架设备利用率不到30%。
另一边前排云厂商自建高端集群,GPU利用率普遍75%到98%,几乎无卡闲置,部分厂商算力见顶限流。
再拿国产旗舰和英伟达主力芯片对比更清楚,昇腾910C在中小模型推理下,能跑出H100八成左右的等效性能,可放到千亿参数预训练环节,有效吞吐只剩H100两成出头,差距拉到四倍以上。
推理是模型训好后回答提问,对单卡效率要求温和,训练是从零喂出模型,对互联带宽、精度、故障恢复要求更高。
软件生态差距也常被忽略,英伟达靠二十多年积累建起CUDA体系,全球开发者写的算法框架、算子库、调试工具都围绕这套生态适配,国内主流大模型开发训练,很大程度上仍依托这套成熟体系。
国产软件栈追赶不慢,可算子覆盖、工具链、集群调优,和成熟体系仍有代际差,迁移到国产集群还要付出额外成本。
市场数据同样能说明问题,2026年上半年国内AI芯片出货份额里,英伟达占约34%,华为昇腾约28%,出货差距缩到6个百分点,可出货量不等于单卡性能,不等于集群成熟度。
供给端堆了不少卡,能支撑先进大模型训练、前排竞争的中高端集群有限,高端算力需求2576.5EFLOPS,一成缺额。
商业竞争节奏容不得慢慢打磨,互联网公司做大模型,比拼的是谁能更快迭代版本、谁能给用户更流畅的回答,慢一步就可能掉队。
选择算力时,算的不只是采购租金的账面价格,还要算上线速度、集群稳定性、故障恢复时长这些隐性成本,一台调试不顺的集群,哪怕租金再便宜,拖慢产品节奏也得不偿失。
判断算力是过剩还是紧缺,不能只看芯片上印着多少浮点次数,更要看算力能否承接高端任务,国内不是总量不够,而是结构错配,中低端供给充裕,能打训练硬仗的中高端偏紧。
闲置低端算力并非没用,跑轻量推理、做行业小模型、处理传统任务都有价值,可把它当成高端训练算力储备,显然高估了适配度。
这几年国产芯片扩产、智算中心落地都很快,国产旗舰推理场景的进步有目共睹,不少团队做模芯协同,让算法适配国产硬件,把效率往上提。
可先进大模型训练门槛不会因为多建机房就自动降低,从单卡性能、集群互联到软件生态,每一环都需要时间补齐,在这之前,中高端算力缺口会是绕不开的现实课题。
说到底,算力和算力之间的差别,远比直觉里要大,十张普通轿车拼在一起,也换不来一辆跑长途的重卡,闲置低端机器不等于能随时顶上高端战场。
认清这种结构性冷热分化,既没必要看到空机房就觉得算力全面过剩,也不用渲染成毫无招架之力,客观承认中高端短板,把芯片、集群、生态补扎实才是实在路径。
