NVIDIA DGX H200は、ビジネスの革新と最適化を促進します。 NVIDIAの伝説的なDGXプラットフォームの一部であり、NVIDIA DGX SuperPOD™およびDGX BasePOD™の基盤です。 画期的なNVIDIA H200 Tensor Core GPUを搭載しています。
DGX H200はNVIDIAのハードウェア、及びソフトウェアプラットフォームを含むAIインフラストラクチャポートフォリオです。
最適化されたハードウェアおよびソフトウェアプラットフォームに対するエンタープライズ サポートソリューション、サードパーティサポートの豊富なエコシステム、および以下へのアクセスNVIDIAのスペシャリストによる専門家のアドバイスにより、組織は最大かつ最も複雑なビジネス上の問題をAIで解決します。
32ペタフロップスのAIパフォーマンスを発揮し、 NVIDIA ConnectX-7®スマートネットワークインターフェイスを搭載したDGX A100と比較して2倍高速なネットワークを提供します。1,128GBのGPUメモリで、最大かつ最も複雑なAIトレーニングと推論を実現します。生成AI、自然言語処理、ディープラーニングに最適なモデルです。
NVIDIA Base Command は旧Bright Claster Managerの機能がNVIDIA AI Enterpriseライセンスに統合された名称です。サーバーのクラスター化、 DGXプラットフォームを強化し、NVIDIAソフトウェアがもたらすイノベーションを企業が最大級活用できるようにします。企業は、エンタープライズグレードのオーケストレーションとクラスター管理、コンピューティング、ストレージ、ネットワークのインフラを高速化するライブラリ、AIワークロード向けに最適化されたオペレーティングシステムを含む実証済みのプラットフォームで、DGXインフラの可能性を最大限まで引き出すことができます。また、DGXインフラには、AIの開発と展開を効率化するために最適化された一連のソフトウェア、NVIDIA AI Enterpriseも含まれています。
◆ NVIDIA H200 GPUx8、合計GPUメモリー 1,128GB
GPUあたり18NVIDIA® NVLinks®、GPU間の双方向帯域幅900GB/s
◆ NVIDIA NVSWITCHES™ x4
7.2TB/sのGPU間双方向帯域幅 、前世代比1.5倍以上
◆ NVIDIA CONNECTX®-7 x8および、NVIDIA ConnectX®-7 400Gb/sネットワークインターフェースx10
ピーク時の双方向ネットワーク帯域幅1TB/s
◆ デュアルIntel Xeon Platinum 8480Cプロセッサーと2TBシステムメモリー
AIへの依存が非常に高い仕事を可能にするパワフルなCPU
◆ 30TB NVME SSD
最高のパフォーマンスを実現するための高速ストレージ
項目 | 内容 |
---|---|
GPU | 8xNVIDIA H200 TensorコアGPU |
GPUメモリー | 合計1,128GBのGPUメモリー |
パフォーマンス | 32peta FLOPS FP8 |
NVIDIA NVSwitch数 | 4 |
システム消費電力 | 最大10.2kW |
CPU | Intel® Xeon® Platinum 8480 プロセッサx2 合計112コア、2.00 GHz(ベース) 3.80GHz(最大ブースト) |
システムメモリー | 最大2TB |
ネットワーク | 4xOSFPポートで8xシングルポートを提供する NVIDIA ConnectX-7 VPI 最大400Gb/sのInfiniBand/Ethernet デュアルポートQSFP112 NVIDIA ConnectX-7 VPIx2 最大400Gb/sのInfiniBand/Ethernet |
管理ネットワーク | 10Gb/sのオンボードNIC(RJ45搭載) 100Gb/sのデュアルポートイーサネット NIC ホストBMC(ベースボード管理コントローラー、RJ45搭載) |
ストレージ | OS:2x1.9TB NVMe M.2 内部ストレージ:8x3.84TB NVMe U.2 |
ソフトウェア | NVIDIA AI Enterprise:最適化されたAIソフトウェア NVIDIA Base Command™:オーケストレーション、スケジューリング、クラスター管理 DGX OS/Ubuntu/Red HatエンタープライズLinux/Rockyオペレーティングシステム |
動作温度範囲 | 5~30°C |
フォームファクター(mm) | 高さ356x幅482.2x長さ897.1 |
企業向けサポート | ハードウェアとソフトウェアの3年間のエンタープライズBusiness-Standardサポート 年中無休のエンタープライズサポートポータルアクセス 現地営業時間中のライブエージェントサポート |