NVIDIA H200 NVL 141GB HBM3e
NVIDIA DATA CENTER GPU / AI TRAINING / LLM
141GB HBM3e、頻寬 4.8 TB/s 的資料中心加速卡，PCIe 雙插槽風冷。可用 NVLink 橋接 2 張或 4 張串成一組，是大型語言模型訓練與推論的主力。
規格
| GPU 架構 | NVIDIA Hopper |
|---|---|
| 單精度效能 | 60 TFLOPS |
| AI 效能 | FP8 Tensor Core 3,341 TFLOPS |
| GPU 記憶體 | 141 GB HBM3e |
| 記憶體頻寬 | 4.8 TB/s |
| 最大功耗 | 最高 600W（可設定） |
| 多實例 GPU | 最高 7 個 MIG @ 16.5GB |
| 機密運算 | 支援 |
| 繪圖匯流排 | PCI Express 5.0 x16（128 GB/s） |
| GPU 互連 | NVLink 橋接 2 張或 4 張，每張 900 GB/s |
| 外形規格 | PCIe 雙插槽 氣冷 |
| 散熱方式 | 被動式（需機箱風流） |
| NVENC | NVDEC | JPEG | — | 7x NVDEC | 7x JPEG |