2026年11月5日,NVIDIA正式推出CUDA Toolkit 13.5版本,为新一代AI计算平台Vera Rubin提供面向企业级生产的全面支持。此举意味着Vera Rubin已顺利完成技术验证与早期试用阶段,正式迈入规模化部署与实际业务应用的新阶段。
新版工具包针对Rubin架构的低精度矩阵运算进行了深度内核优化,显著提升计算吞吐效率。开发者无需针对不同计算维度反复调优,即可获得稳定性能增益。值得注意的是,自Rubin架构起,CUDA在Windows平台上不再兼容TCC驱动模式,仅支持WDDM和MCDM两种标准驱动模型。
在GPU资源调度能力方面,多实例服务架构升级至v3版本,引入加权时间切片机制。该机制允许为高负载服务分配更长的基础计算时段,并可独立配置GPU在不同任务间切换的频次,使多租户环境下的GPU资源共享更为精准可控,有效缓解资源争抢问题。
局部域功能同步增强。系统现提供两类流式多处理器分区策略:其一为各局部域固定分配相同数量的处理器单元,保障执行行为的一致性与可预测性;其二则支持将域外冗余流式处理器动态纳入分区范围,实现硬件资源的充分利用。
计算分区机制进一步支持资源的弹性借调与即时回收。在整个资源动态调配过程中,每个应用所绑定的基础资源配额始终保持不变,确保服务质量不受影响。
在计算内核层面,CUDA 13.5首次实现原生多GPU通信能力。内核可通过高速互连网络直接读写其他GPU的显存,并原生支持跨设备的数据归约操作,使通信与计算在单个内核中协同完成,大幅压缩多卡协作过程中的数据传输延迟与开销。
配套发布的性能分析工具以公开预览形式上线,专为长周期训练与推理任务设计,支持常驻式实时监控,有助于定位和诊断偶发性、难以复现的运行异常。
从硬件适配到调度策略,从分区管理到跨卡协同,CUDA 13.5构建起覆盖全栈的底层支撑能力,为下一代高性能算力集群提供了完整、可靠且高效的技术底座。此次发布同步适配NVIDIA 620.70.06 Linux驱动版本。

评论
更多评论