群发资讯网

英伟达CUDA 13.5发布!正式支持Vera Rubin架构,多GPU通信大幅

英伟达CUDA 13.5发布!正式支持Vera Rubin架构,多GPU通信大幅升级!

英伟达正式推出CUDA Toolkit 13.5版本,核心亮点就是原生支持Vera Rubin新架构,为大规模AI训练、推理场景带来底层升级。

新版本针对Vera Rubin架构优化NVFP4、MXFP8低精度矩阵运算,适配MoE混合大模型,不用反复手动调优,就能提升模型训练与推理吞吐量。

多GPU通信能力迎来重要升级。CUDA Tile支持在内核中直接跨卡访问显存,依托NVLink与NVSwitch高速互联,单播、多播指针可实现跨GPU数据归约,把计算和数据传输合并执行,大幅削减多卡协同的数据交换开销。

GPU多任务调度同步更新,升级MPS多进程服务v3,新增加权时间分片、SM分区负载均衡。开发者能够按需分配算力资源,多任务并行运行时资源调度更灵活。

除此之外,本次更新还优化CUDA Python、CCCL底层库、性能分析工具,完善配套开发能力。新版本落地,意味着Vera Rubin平台软硬件生态正式就位,为下一代超大AI集群打下基础。

不少业内人士认为,这套底层更新会降低超大规模大模型集群的部署门槛,加速前沿AI模型落地。
英伟达科技 科技 GPU 英伟达GPU GPU