アクセラレーテッド コンピューティングを桁違いに高速化
NVIDIA H100 Tensor コア GPU は、比類のないパフォーマンス、拡張性、セキュリティをあらゆるワークロードに提供します。NVIDIA®NVLink®Switch System との組み合わせで、最大256 基の H100 GPU を接続して、エクサスケールのワークロードを高速化します。さらに専用のTransformer Engineで、数兆個のパラメーターを持つ言語モデルにも対応します。H100 は、NVIDIA Hopperアーキテクチャが実現する画期的な変革を利用して業界最高水準の対話型 AI を提供し、大規模言語モデルの処理を前世代の 30 倍以上の速さで実行します。
エンタープライズ AI への対応は?
NVIDIA H100 Tensor Core GPUには、NVIDIA AI Enterpriseソフトウェアスイートのエンタープライズサポートを含む5年間のソフトウェアサブスクリプションが付属しており、非常に優れた性能によってAI 活用を簡素化します。これにより、企業や組織は、AIチャットボット、レコメンデーションエンジン、ビジョンAIなど、H100で高速化するAIワークフローを構築するために必要なAIフレームワークおよびツールが活用できるようになります。
NVIDIA AI Enterprise ソフトウェア サブスクリプションやこれに関連する NVIDIA H100 サポートの詳細については、こちら
エンタープライズからエクサスケールまで、さまざまな規模のワークロードをセキュアに高速化
NVIDIA H100 GPUは、第4 世代のTensorコアとFP8 精度のTransformer Engineを搭載し、大規模言語モデルを使うトレーニングにおいて前世代比で最大 9 倍高速化、推論の速度を最大 30 倍と驚異的に高めることで、AI 市場における NVIDIA のリーダーシップをさらに確かなものにします。ハイパフォーマンス コンピューティング(HPC)のアプリケーションについても、FP64 による FLOPS(1 秒間に実行できる浮動小数点演算の回数)を 3 倍に高め、新しいDPX 命令は、動的計画法のアルゴリズムを最大 7倍まで高速化します。第 2世代のマルチインスタンス GPU(MIG)、組み込みの NVIDIAコンフィデンシャルコンピューティング、NVIDIA NVLink Switch System を装備する H100 は、エンタープライズからエクサスケールまで、さまざまな規模のデータセンターのあらゆるワークロードを安全に高速化します。
NVIDIA AI Enterprise詳細はこちら
製品情報
製品名 | NVIDIA H100 PCIe 94GB NVL |
型番 | NVH100-94G-NVL |
価格
価格 | オープンプライス |
仕様
アーキテクチャ | Hopper |
GPUメモリー | 188GB |
メモリー帯域 | 7.8TB/s 3 |
エラー修正コード(ECC) | Yes |
FP64 | 68 TFLOPS |
FP64 Tensor Core | 134 TFLOPS |
FP32 | 134 TFLOPS |
TF32 Tensor Core | 1,979 TFOLPS※ |
BFLOAT16 Tensor core | 3,958 TFLOPS※ |
FP16 Tensor Core | 3,958 TFLOPS※ |
FP8 Tensor Core | 7,916 TFLOPS※ |
INT8 Tensor Core | 7,916 TFLOPS※ |
デコーダー | 14 NVDEC 14 JPEG |
インターコネクト | PCIe5.0:128GB/s NVLink : 600GB/s |
消費電力(TDP) | 2x 350-400W |
冷却機構 | パッシブ |
フォームファクター | 2 x PCIe Dual Slot |
マルチインスタンスGPU(MIG) | 128GBのMIGが最大14個 |
※仕様・製品名・型番は事前のご連絡なく、変更になる可能性がございます。
※sparsity有効時
※NVLINK接続する場合はRTX用のNVLINKが3個必要です。
付属ライセンス
NVIDIA AI Enterprise 5年Subscriptionライセンスが付属
同梱物
同梱物 | 保証書 |
※補助電源ケーブルは付属しません。
オプション
NVIDIA NVLINK ブリッジ
※NVLINK接続する場合はRTX用のNVLINKが3個必要です。
※オプション品
製品名 | NVLINK For Ampere 2-SLOT Retail NVLINK For Ampere 3-SLOT Retail |
型番 | NVLINK FOR AMPERE 2S RETAIL NVLINK FOR AMPERE 3S RETAIL |
JANコード | 4560152389065 (2スロットモデル) 4560152389072 (3スロットモデル) |
製品保証
3年間保証(NVIDIA H100 PCIe 94GB NVL 本体のみ)
保証対象製品の交換(センドバック方式)
※ 仕様・製品名・型番は事前のご連絡なく、変更になる可能性がございます。