群发资讯网

CNCC挖到宝!国内智算基建领头羊亮出硬核全家桶 这次来成都CNCC逛展,中科曙

CNCC挖到宝!国内智算基建领头羊亮出硬核全家桶
这次来成都CNCC逛展,中科曙光的展台人挤得满满当当,属实是现场一大看点,它把Token时代整套AI底层家底都摆出来了。
现场最吸睛的,绝对是scaleX40的无线缆箱式超节点,直接把线缆干掉,用紧耦合设计死磕低延迟,大幅优化内部多卡协同效率。scaleFabric原生无损高速网络,可把多个超节点组网扩展至十万卡规模,打通超集群通信瓶颈。还有刚发布的Fabricview管理平台也在现场演示。一堆圈内人围着技术小哥追问百万卡集群网络怎么管、推理缓存怎么优化。
大会上,中科曙光的工程师们还分享了面向Token生产的优化方案:围绕“算、传、存、调”进行全链路软硬协同,解决算力空转、通信等待等问题。其中,PD分离架构在minimax2.5测试中,Prefill性能提升237.5%、Decode性能提升228.57%;ParaCache缓存方案构建L4KVCache池,TTFT降低95%+、吞吐提升15~25倍,单TB成本更降至内存的四十分之一,全部都是实测跑出的结果。
现在不少厂商还在卷纸面数字,中科曙光更看重把硬件峰值转化成实打实的Token产出。从这套完整落地能力来看,中科曙光是真正跑在前面的玩家,给行业提供了可借鉴的实践思路。