NVIDIA RTX PRO 6000 Blackwell Server Edition 96GB
NVIDIA / Leadtek DATA CENTER GPU / AI INFERENCE / LLM
資料中心版本,被動式散熱、功耗可設定在 400–600W,設計上就是要一台伺服器裝 8 張。生成式 AI 推論、虛擬桌面與視訊應用都能跑,支援機密運算與信任根安全啟動。
規格
| GPU 架構 | NVIDIA Blackwell |
|---|---|
| CUDA 平行處理核心 | 24,064 |
| NVIDIA Tensor 核心 | 752 |
| NVIDIA RT 核心 | 188 |
| 單精度效能 | 120 TFLOPS |
| AI 效能 | FP4 尖峰 3.8 PFLOPS |
| RT 核心效能 | 352.3 TFLOPS |
| GPU 記憶體 | 96 GB GDDR7 with ECC |
| 記憶體介面 | 512-bit |
| 記憶體頻寬 | 1.6 TB/s |
| 最大功耗 | 400–600W(可設定) |
| 多實例 GPU | 最高 4 個 MIG @ 24GB |
| 機密運算 | 支援 |
| 安全啟動(信任根) | 支援 |
| 繪圖匯流排 | PCI Express 5.0 x16 |
| 顯示連接器 | DP 2.1 (4) |
| 外形規格 | 4.4" 高 x 10.5" 長,全高全長 雙插槽 |
| 散熱方式 | 被動式(需機箱風流) |
| 外部電源連接端子 | 1x PCIe CEM5 16-pin |
| NVENC | NVDEC | JPEG | 4x | 4x | 4x |
