架构:Blackwell Ultra 架构,针对 Transformer 注意力机制专项优化,大幅提升大模型长序列推理效率
- 显存规格:单卡 288GB HBM3e 高速显存,显存带宽 8TB/s,8 卡整机显存池可达 2.1TB
- AI 算力:FP8 训练算力 72 PFLOPS,FP4 推理算力 144 PFLOPS,推理性能较上代显著提升
- 互联传输:搭载第五代 NVLink,双向互联带宽 1.8TB/s;标配800Gb/s高速网络接口,支持大规模 GPU 集群组网
- 硬件配置:双光罩设计、2080 亿晶体管、2 万个 CUDA 核心,单卡功耗 1400W
- 软件生态:支持 MIG 多实例虚拟化,兼容 CUDA、TensorRT、cuDNN 全栈 AI 软件,适配模型训练、推理、仿真等多场景