菱洋エレクトロで取り扱うNVIDIA データセンターGPU製品をご紹介します。
H100 PCIe 94GB NVL | L40S | L4 | A40 | A30 | A16 | A10 | A2 | |
---|---|---|---|---|---|---|---|---|
アーキテクチャ | Hopper | Ada Lovelace | Ada Lovelace | Ampere | Ampere | Ampere | Ampere | Ampere |
GPUメモリー | 94GB HBM2e | 48GB GDDR6 | 24GB GDDR6 | 48GB GDDR6 | 24GB HBM2 | 16GB GDDR6 x4 | 24GB GDDR6 | 16GB GDDR6 |
メモリーインターフェース | 5,120bit | 384bit | 192bit | 384bit | 3072bit | 128bit | 192bit | 128bit |
メモリー帯域幅 | 2TB/s | 864GB/s | 300GB/s | 696GB/s | 933GB/s | 4x 200GB/s | 600GB/s | 200GB/s |
エラー修正コード(ECC) | 対応 | |||||||
NVIDIA CUDA コア数 | 14,592 | 18,176 | 7,424 | 10,752 | N/A | 4x 1,280 | TBD | 1,280 |
NVLINK | 対応 | 非対応 | 非対応 | 対応 | 対応 | 非対応 | 非対応 | 非対応 |
ベースクロック | 1,125MHz | 1,110MHz | 795MHz | 1305MHz | 930MHz | 1,312MHz | 885MHz | 1,312MHz |
GPU Boostクロック | 1,755MHz | 2,520MHz | 2,040MHz | 1740MHz | 1440MHz | 1,755MHz | 1,695MHz | 1,755MHz |
倍精度演算性能(TELOPS) | 68 | 1.4 | - | - | - | 4x 4.5 | - | - |
単精度演算性能(TELOPS) | 134 | 91.6 | 30.3 | - | - | 4x 0.00702 | 31.2 | 4.5 |
インターフェース | PCI Express 5.0 x16 | PCI Express 4.0 x16 | PCI Express 4.0 x16 | PCI Express 4.0 x16 | PCI Express 4.0 x16 | PCI Express 4.0 x16 | PCI Express 4.0 x16 | PCI Express 4.0 x8 |
最大消費電力 | 350-400W | 350W | 72W | 300W | 165W | 250W | 150W | 40-60W |
補助電源コネクタ | CPU(EPS) 8pin | PCIe CEM5 16pin | PCIe CEM5 16pin | CPU 8pin | CPU 8pin | CPU 8pin | PCIe 8pin | N/A |
フォームファクター(mm) | 267.7 x 111.15 | 267.7 x 111.15 | 167.64 x 68.9 | 266.7 x 111.76 | 266.7 x 111.76 | 267.7 x 111.2 | 267.7 x 111.2 | 167.64 x 86.1 |
スロットサイズ | 2スロット | 2スロット | 1スロット | 2スロット | 2スロット | 2スロット | 1スロット | 1スロット |