KV Cache跨节点共享,中科曙光的ParaCache指标有点硬
刚群聊几个朋友在聊2026数据存储产业大会的事情,看了半天,觉得这次大会技术含金量最高的,我投给中科曙光那套"存—算—传—用"全栈协同的思路。背景很现实:要让存储真正加速Token生成,得先解决数据分散、孤岛、协议受限这些老毛病。中科曙光的打法是用ParaStor分布式存储加FlashNexus集中式存储,靠统一命名空间和多协议访问把海量异构数据统一管起来,再按数据热度和业务跨介质、跨平台调度,少做重复搬运。
再往下压缩I/O路径才是精髓:XDS数据直通、BurstBuffer本地缓存加scaleFabric高速网络协同,把数据读取和模型计算做成并行。推理环节由ParaCache统一管理多级KV Cache并跨节点共享,减少重复计算。中科曙光给的数字挺直观——64K上下文测试里,相较GPU纯计算,分布式存储方案Token并发数提升16倍、首Token时延(TTFT)降低95%以上。说白了,热的留HBM、温的下沉、冷的进共享层,别把宝贵显存全压在缓存上。这一步,中科曙光走得靠前。
KVCache 中科曙光
