product NVIDIA DGX H200
AIインフラのNewスタンダード DGX H200
NVIDIA DGX H200は、NVIDIA H200 Tensor Core GPUを搭載しており、NVIDIA DGX SuperPODおよびDGX BasePODの基盤です。NVIDIAの伝説的なDGXプラットフォームの一部であり、ビジネスの革新と最適化を促進します
特長
AIセンターの最高峰
DGX H200はNVIDIAのハードウェア、及びソフトウェアプラットフォームを含むAIインフラストラクチャポートフォリオです。
最適化されたハードウェアおよびソフトウェアプラットフォームに対するエンタープライズ サポートソリューション、サードパーティサポートの豊富なエコシステム、および以下へのアクセスNVIDIAのスペシャリストによる専門家のアドバイスにより、組織は最大かつ最も複雑なビジネス上の問題をAIで解決します。
生成AIやDeep Learningに
32ペタフロップスのAIパフォーマンスを発揮し、 NVIDIA ConnectX-7スマートネットワークインターフェイスを搭載したDGX A100と比較して2倍高速なネットワークを提供します。1,128GBのGPUメモリで、最大かつ最も複雑なAIトレーニングと推論を実現します。生成AI、自然言語処理、ディープラーニングに最適なモデルです。
NVIDIA Base Commandを搭載
NVIDIA Base Commandは旧Bright Claster Managerの機能がNVIDIA AI Enterpriseライセンスに統合された名称です。サーバーのクラスター化、 DGXプラットフォームを強化し、NVIDIAソフトウェアがもたらすイノベーションを企業が最大級活用できるようにします。企業は、エンタープライズグレードのオーケストレーションとクラスター管理、コンピューティング、ストレージ、ネットワークのインフラを高速化するライブラリ、AIワークロード向けに最適化されたオペレーティングシステムを含む実証済みのプラットフォームで、DGXインフラの可能性を最大限まで引き出すことができます。また、DGXインフラには、AIの開発と展開を効率化するために最適化された一連のソフトウェア、NVIDIA AI Enterpriseも含まれています。
構成
◆ NVIDIA H200 GPUx8、合計GPUメモリー 1,128GB GPUあたり18NVIDIA NVLINKs、GPU間の双方向帯域幅900GB/s
◆ NVIDIA NVSWITCHESx4 7.2TB/sのGPU間双方向帯域幅 、前世代比1.5倍以上
◆ NVIDIA CONNECTX-7x8および、NVIDIA ConnectX-7 400Gb/sネットワークインターフェースx10 ピーク時の双方向ネットワーク帯域幅1TB/s
◆ デュアルIntel Xeon Platinum 8480Cプロセッサーと2TBシステムメモリー AIへの依存が非常に高い仕事を可能にするパワフルなCPU
◆ 30TB NVME SSD 最高のパフォーマンスを実現するための高速ストレージ
仕様
項目
内容
GPU
8xNVIDIA H200 TensorコアGPU
GPUメモリー
合計1,128GBのGPUメモリー
パフォーマンス
32peta FLOPS FP8
NVIDIA NVSwitch数
4
システム消費電力
最大10.2kW
CPU
Intel Xeon Platinum 8480プロセッサx2 合計112コア、2.00 GHz(ベース) 3.80GHz(最大ブースト)
システムメモリー
最大2TB
ネットワーク
4xOSFPポートで8xシングルポートを提供する NVIDIA ConnectX-7 VPI 最大400Gb/sのInfiniBand/Ethernet デュアルポートQSFP112 NVIDIA ConnectX-7 VPIx2 最大400Gb/sのInfiniBand/Ethernet
管理ネットワーク
10Gb/sのオンボードNIC(RJ45搭載) 100Gb/sのデュアルポートイーサネット NIC ホストBMC(ベースボード管理コントローラー、RJ45搭載)
ストレージ
OS:2x1.9TB NVMe M.2 内部ストレージ:8x3.84TB NVMe U.2
ソフトウェア
NVIDIA AI Enterprise:最適化されたAIソフトウェア NVIDIA Base Command:オーケストレーション、スケジューリング、クラスター管理 DGX OS/Ubuntu/Red HatエンタープライズLinux/Rockyオペレーティングシステム
動作温度範囲
5~30°C
梱包サイズ(mm)
970x711x1178
フォームファクター(mm)
356x482.2x897.1
企業向けサポート
ハードウェアとソフトウェアの3年間のエンタープライズBusiness-Standardサポート 年中無休のエンタープライズサポートポータルアクセス 現地営業時間中のライブエージェントサポート
※仕様などは予告なしに変更されることがあります。
ご購入
本製品は、メーカーのパートナー制度を活用した販売制度にて販売しております。
※ 菱洋エレクトロからの直販ではなく、NPNパートナー様(NVIDIA認定2次代理店)を介しての販売となります。
NPNパートナー様のご紹介やDGXを含めたNVIDIA製品についてのお問い合わせも承っておりますのでお気軽にお問い合わせください。
関連製品
NVIDIA NVIDIA AI Enterprise
エンタープライズ AI のための「オペレーティング システム」
NVIDIA H200 PCle 141GB NVL
AIとHPCのワークロードを強化する