PRODUCTNVIDIA データセンターGPU
菱洋エレクトロで取り扱うNVIDIA データセンターGPU製品をご紹介します。
データセンターGPUは、その名の通りデータセンターやサーバールームなどでのサーバー搭載を前提としたGPUボードです。パッシブファンによる冷却機構を備え、長時間の稼働でも安定した性能を維持するよう設計されております。LLM開発、大規模AI学習、Deep Learningなどの用途に最適です。
NVIDIAデータセンターGPU スペック比較表
NVIDIA GPUスペック比較表です。GPUカードのアーキテクチャ（世代）を超えてパフォーマンス比較をしていただけます。| H200 PCIe 141GB NVL | H100 PCIe 94GB NVL | L40S | L40 | L4 | A40 | A30 | A16 | A10 | A2 | |
|---|---|---|---|---|---|---|---|---|---|---|
| アーキテクチャ | Hopper | Hopper | Ada Lovelace | Ada Lovelace | Ada Lovelace | Ampere | Ampere | Ampere | Ampere | Ampere |
| GPUメモリー | 141GB HBM3e | 94GB HBM3 | 48GB GDDR6 | 48GB GDDR6 | 24GB GDDR6 | 48GB GDDR6 | 24GB HBM2 | 16GB GDDR6 x4 | 24GB GDDR6 | 16GB GDDR6 |
| メモリーインターフェース（bit） | - | 5,120 | 384 | 384 | 192 | 384 | 3072 | 128 | 192 | 128 |
| メモリー帯域幅 | 4.8TB/s | 3.98TB/s | 864GB/s | 864GB/s | 300GB/s | 696GB/s | 933GB/s | 4x 200GB/s | 600GB/s | 200GB/s |
| エラー修正コード（ECC） | 対応 | |||||||||
| NVIDIA CUDA コア数 | - | 14,592 | 18,176 | 18,176 | 7,424 | 10,752 | N/A | 4x 1,280 | TBD | 1,280 |
| Tensorコア性能 | - | 456 Gen4 |
568 Gen4 |
568 Gen4 |
232 Gen4 |
336 Gen3 |
- | 4x 40 Gen3 |
- | 40 Gen3 |
| RTコア性能 | - | - | 142 Gen3 |
142 Gen3 |
58 Gen3 |
84 Gen2 |
- | 4x 10 Gen2 |
72 Gen2 |
10 Gen2 |
| NVLINK | 対応 | 対応 | 非対応 | 非対応 | 非対応 | 対応 | 対応 | 非対応 | 非対応 | 非対応 |
| ベースクロック（MHz） | - | 1,080 | 1,110 | 735 | 795 | 1305 | 930 | 1,312 | 885 | 1,312 |
| GPU Boostクロック（MHz） | - | 1,785 | 2,520 | 2,490 | 2,040 | 1740 | 1440 | 1,755 | 1,695 | 1,755 |
| 倍精度演算性能（TFLOPS） | - | 68 | - | - | - | - | 10.3 | ‐ | - | - |
| 単精度演算性能（TFLOPS） | - | 134 | 91.6 | 90.5 | 30.3 | 37.4 | - | 4x 4.5 | 31.2 | 4.5 |
| インターフェース | PCI Express 5.0 x16 | PCI Express 5.0 x16 | PCI Express 4.0 x16 | PCI Express 4.0 x16 | PCI Express 4.0 x16 | PCI Express 4.0 x16 | PCI Express 4.0 x16 | PCI Express 4.0 x16 | PCI Express 4.0 x16 | PCI Express 4.0 x8 |
| 最大消費電力 | 600W | 350-400W | 350W | 300W | 72W | 300W | 165W | 250W | 150W | 40-60W |
| 補助電源コネクタ | PCIe CEM5 16pin | PCIe CEM5 16pin | PCIe CEM5 16pin | PCIe CEM5 16pin | CPU 8pin | CPU 8pin | CPU 8pin | PCIe 8pin | N/A | |
| フォームファクター（mm） | 267.7 x 111.15 | 267.7 x 111.15 | 267.7 x 111.15 | 267.7 x 111.15 | 167.64 x 68.9 | 266.7 x 111.76 | 266.7 x 111.76 | 267.7 x 111.2 | 267.7 x 111.2 | 167.64 x 86.1 |
| スロットサイズ | 2スロット | 2スロット | 2スロット | 2スロット | 1スロット | 2スロット | 2スロット | 2スロット | 1スロット | 1スロット |
| MIG | 最大7（18GB） | 最大7（12GB） | - | - | - | - | 最大4 （6GB） |
- | - | - |
データセンターGPU ハイエンドモデル
データセンターGPU ミドルレンジモデル
データセンターGPU エントリーモデル
