product NVIDIA L4
ビデオ、AI、グラフィックスを効率的に実現する飛躍的進化を遂げたユニバーサルアクセラレータ L4
NVIDIA Ada Lovelace L4 TensorコアGPUは、NVIDIA Ada Lovelaceアーキテクチャを採用したAI・グラフィックス向けのデータセンターGPUです。
特長
ビデオ、AI、グラフィックスのワークロードを加速
NVIDIA Ada Lovelace L4 TensorコアGPUは、企業、クラウド、およびエッジでのビデオ、AI 、仮想デスクトップおよびグラフィックスアプリケーションにユニバーサルなアクセラレーションとエネルギー効率を提供します。 NVIDIAのAIプラットフォームとフルスタックアプローチにより、L4はレコメンデーション、音声ベースのAIアバターアシスタント、ジェネレーティブAI、画像検索、コンタクトセンター自動化など、幅広いAIアプリケーションの大規模な推論用に最適化され、最高のパーソナライズされた体験を実現します。
メインストリーム向けの最も効率的な NVIDIAアクセラレーターであるL4を搭載したサーバーは、CPUソリューションよりも最大120倍高速なAIビデオ性能と2.7倍のジェネレーティブAIでの性能向上、および前世代のGPUよりも4倍以上のグラフィックスパフォーマンスを発揮します。NVIDIA L4のシングルスロットの薄型フォームファクターは汎用性とエネルギー効率に優れ、エッジロケーションを含むグローバル展開に最適です。
ワークロードを効率的かつ持続的に加速
NVIDIA L4は、NVIDIAデータセンタープラットフォームに不可欠な要素です。 AI、ビデオ、仮想ワークステーション、グラフィックス、シミュレーション、データサイエンス、データ分析向けに構築されたこのプラットフォームは、3,000を超えるアプリケーションを高速化し、データセンターからエッジ、クラウドに至るまで、あらゆる場所で大規模に利用可能であり、劇的なパフォーマンスの向上とエネルギー効率の両方を実現します。
AIとビデオがより普及するにつれて、効率的で費用対効果の高いコンピューティングに対する需要がこれまで以上に高まっています。 NVIDIA L4 TensorコアGPU は、最大120倍優れたAIビデオパフォーマンスを提供し、従来のCPUベースのインフラストラクチャと比較して最大99%優れたエネルギー効率と低い総所有コストを実現します。
これにより、企業はラックスペースを削減し、二酸化炭素排出量を大幅に削減しながら、データセンターをより多くのユーザーに拡張できます。2MWのデータセンターでCPUからNVIDIA L4に切り替えることで節約されるエネルギーは、1年間で2,000世帯以上の電力に相当し、10年間*で成長する172,000本の木のカーボンオフセットに匹敵します。
*8xL4と2S Intel 8362 CPUサーバーの比較:CV-CUDAの前処理と後処理、デコード、推論(SegFormer)、エンコード、TRT8.6とOpenCV4.7、PyTを使用したCPUのみのパイプラインによるエンドツーエンドのビデオパイプライン推論
*1.677MWの節約で設定したEPA計算の結果
www.epa.gov/energy/greenhouse-gas-equivalencies-calculator
エンタープライズ対応、AI ソフトウェアが開発と展開を合理化
企業によるAIの採用が進んでおり、この新しい時代に対応できるエンドツーエンドのAI対応インフラストラクチャを必要としています。 NVIDIA AI Enterpriseは、エンドツーエンドのクラウドネイティブなAIおよびデータ分析ソフトウェアのスイートであり、すべての組織がAIを活用できるように最適化されており、エンタープライズデータセンターからクラウドまで、どこにでも展開が可能です。 またAIプロジェクトを順調に進めるためのグローバルでのエンタープライズサポートにも対応します。
製品情報
製品名
NVIDIA L4 Tensor コアGPU
型番
JANコード
なし
価格
オープンプライス
同梱物
保証書
仕様
項目
内容
アーキテクチャ
NVIDIA Ada Lovelace
GPUメモリー
24GB
メモリー帯域幅
最大300GB/s
消費電力(TDP)
72W
FP32
30.3teraFLOPs
TF32 Tensor core
120teraFLOPS*
FP16 Tensor core
242teraFLOPS*
BFLOAT16 Tensor core
242teraFLOPS*
FP8 Tensor core
485teraFLOPs*
INT8 Tensor core
485TOPs*
NVIDIA NVLINK
非対応
デコーダー
2xNVENC 4xNVDEC 4xJPE
インターコネクター
PCIe Gen4x16 64GB/s
フォームファクター(mm)
1スロットロープロファイル PCIe
冷却機構
パッシブ
サーバーオプション
1~8基GPU搭載のパートナーおよびNVIDIACertified Systems対応システム
同梱物
保証書
※仕様などは予告なしに変更されることがあります。
*スパース性を使用、スパース を使わない場合は1/2低くなります。
オプション/保証
<製品保証> 保証対象製品の交換(センドバック方式)
※ ユーザー起因はこの限りではありません
※ 交換後の保証期間は、元の保証期間の残存期間が適用されます
※ 仕様などは予告なしに変更されることがあります
外観
関連製品
SuperMicro SYS-741GE-TNRT
GPU搭載ワークステーション