productNVIDIA
H100 PCle 94GB NVL

比類なきパフォーマンス、拡張性、セキュリティをあらゆるデータセンターに
H100 PCIe 94GB NVL

NVIDIAのH100 PCle 94GB NVLの製品画像

NVIDIA  H100 PCIe 94GB NVLは、あらゆる業界で最高の仕事と画期的なイノベーションを実現するために最大のパフォーマンスと信頼性を求めるプロフェッショナル向けに設計された、究極のワークステーショングラフィックスカードです。

特長

アクセラレーテッド コンピューティングを桁違いに高速化

NVIDIA H100 Tensor コアGPUは、比類のないパフォーマンス、拡張性、セキュリティをあらゆるワークロードに提供します。NVIDIA®NVLink®Switch Systemとの組み合わせで、最大256基のH100 GPUを接続して、エクサスケールのワークロードを高速化します。さらに専用のTransformer Engineで、数兆個のパラメーターを持つ言語モデルにも対応します。H100は、NVIDIA Hopperアーキテクチャが実現する画期的な変革を利用して業界最高水準の対話型AIを提供し、大規模言語モデルの処理を前世代の30倍以上の速さで実行します。

エンタープライズ AI への対応は?

NVIDIA H100 Tensor Core GPUには、NVIDIA AI Enterpriseソフトウェアスイートのエンタープライズサポートを含む5年間のソフトウェアサブスクリプションが付属しており、非常に優れた性能によってAI活用を簡素化します。これにより、企業や組織は、AIチャットボット、レコメンデーションエンジン、ビジョンAIなど、H100で高速化するAIワークフローを構築するために必要なAIフレームワークおよびツールが活用できるようになります。

エンタープライズからエクサスケールまで、さまざまな規模のワークロードをセキュアに高速化

NVIDIA H100 GPUは、第4世代のTensorコアとFP8精度のTransformer Engineを搭載し、大規模言語モデルを使うトレーニングにおいて前世代比で最大9倍高速化、推論の速度を最大30倍と驚異的に高めることで、AI市場におけるNVIDIA のリーダーシップをさらに確かなものにします。ハイパフォーマンス コンピューティング(HPC)のアプリケーションについても、FP64によるFLOPS(1 秒間に実行できる浮動小数点演算の回数)を3倍に高め、新しいDPX命令は、動的計画法のアルゴリズムを最大7倍まで高速化します。第2世代のマルチインスタンス GPU(MIG)、組み込みのNVIDIAコンフィデンシャルコンピューティング、NVIDIA NVLink Switch System を装備するH100は、エンタープライズからエクサスケールまで、さまざまな規模のデータセンターのあらゆるワークロードを安全に高速化します。

NVIDIA AI Enterprise詳細ページ

NVIDIA A100とH100の速度比較グラフ描かれており、A100と比べてH100は、GPT-3のAI学習を最大9倍高速化することが分かる

Megatronチャットボット推論のグラフが描かれており、大規模モデルを使うAI推論を最大30倍高速化出来ることがわかる

製品情報

製品名 NVIDIA H100 PCIe 94GB NVL
型番 NVH100-94G-NVL
JANコード なし
価格 オープンプライス
同梱物 保証書
※補助ケーブルは付属しません

仕様

 項目  内容
アーキテクチャ Hopper
GPUメモリー 94GB HBM3
メモリー帯域幅 3.98TB/s
エラー修正コード(ECC) 対応
FP64 34TFLOPS
FP64 Tensor Core 67TFLOPS
FP32 67TFLOPS
TF32 Tensor Core 989TFOLPS*
BFLOAT16 Tensor core 1,979TFLOPS*
FP16 Tensor Core 1,979TFLOPS*
FP8 Tensor Core 3,958TFLOPS*
INT8 Tensor Core 3,958TFLOPS*
NVIDIA NVLINK 対応
デコーダー 7xNVDEC
7xJPEG
インターコネクト PCIe5.0:64GB/s
NVLink:300GB/s
消費電力(TDP) 350~400W
冷却機構 パッシブ
フォームファクター(mm) 2xPCIe
Dual Slot
マルチインスタンスGPU(MIG) 128GBのMIGが最大7個
付属ライセンス NVIDIA AI Enterprise 5年Subscriptionライセンスが付属
同梱物 保証書
※補助電源ケーブルは付属しません
※仕様などは予告なしに変更されることがあります。
※NVLINK接続する場合はRTX用のNVLINKが3個必要です。
*sparsity有効時

オプション/保証

<オプション>
NVIDIA NVLINKブリッジ

NVIDIAのNVLINKの製品画像 NVIDIAのNVLINKの製品画像

製品名 NVLINK For Ampere 2-SLOT Retail NVLINK For Ampere 3-SLOT Retail
型番 NVLINK FOR AMPERE 2S RETAIL NVLINK FOR AMPERE 3S RETAIL
JANコード 4560152389065 (2スロットモデル) 4560152389072(3スロットモデル)
※スロットの形状は、搭載するシステム側のスロット設計をご確認ください。

<製品保証>
保証対象製品の交換(センドバック方式)
※ ユーザー起因はこの限りではありません
※ 交換後の保証期間は、元の保証期間の残存期間が適用されます
※ 仕様などは予告なしに変更されることがあります

外観

NVIDIAのH100 PCle 94GB NVLの製品画像 NVIDIAのH100 PCle 94GB NVLの製品画像  

関連製品

page top