NVIDIA H800 Tensor Core GPU

 提示:点击图片可以放大

NVIDIA H800 是基于 Hopper 架构、面向中国市场的数据中心旗舰 GPU,配备 80GB HBM3 显存与第四代 Tensor Core,为大模型训练与推理提供顶尖算力,其 NVLink 互联带宽按出口管制要求做了相应调整。

核心规格:

  • CUDA 核心:16896(Hopper 架构)
  • Tensor 核心:528 个(第四代),配备 Transformer Engine
  • 显存:80GB HBM3,带宽 3.35 TB/s
  • 性能:FP16 Tensor 989 TFLOPS(稀疏),FP8 Tensor 约 1979 TFLOPS(稀疏)
  • 互联:NVLink 400 GB/s
  • 功耗:700W(SXM5 版本),被动散热,面向机架级服务器
  • 特性:支持 MIG 多实例(最多 7 实例)、FP8 精度与 Transformer Engine

H800 曾是国内大模型训练算力的重要来源之一,后续由 H20 等合规型号接替。其 Hopper 架构的 Transformer Engine 显著加速了大语言模型训练吞吐。