NVIDIA Hopper GPU 架构(H200 / H100)

 提示:点击图片可以放大

NVIDIA Hopper 架构是数据中心 GPU 的重要里程碑,凭借 Transformer Engine 与 NVLink 互连技术,曾撑起全球大模型训练浪潮。H200 在此基础上将显存容量与带宽大幅提升,成为大规模推理的经典之选。

核心特性:

  • 架构集成 800 亿晶体管,配备 Transformer Engine,加速 Transformer 训练与推理
  • H100:80GB HBM3 显存,带宽 3.35TB/s
  • H200:141GB HBM3e 显存,带宽高达 4.8TB/s
  • 大模型推理性能较 H100/A100 显著提升,GPT-3 175B 训练效率大幅优化
  • 支持 NVLink 与 InfiniBand 互连,可扩展至数千卡集群

凭借成熟的软件生态与广泛的部署基础,Hopper 系列至今仍广泛服务于全球云厂商、科研机构与企业级 AI 推理场景。