NVIDIA P40

ディープラーニング モデルの精度と複雑さが増大している現在、もはや CPU ではインタラクティブなユーザーエクスペリエンスを提供できません。
非常に複雑なモデルの場合でも、NVIDIA P40は最大25倍の速度でINT8処理による推論を実行し、リアルタイムの応答性を達成します。また、最大のスループットを達成することに特化しています。事実、NVIDIA P40 搭載サーバー1台のディープラーニング処理量は、最大でCPUのみのサーバーの60台分に匹敵します。
NVIDIA P40 は、ハードウェア アクセラレーションを使用するエンコードとデコードのエンジンを備え、18本のフルHDビデオストリームをリアルタイムでコード変換できます。さらに、ビデオコード変換パイプラインにディープラーニングを組み込むことで新しいクラスのスマートビデオアプリケーションを実現します。

膨大なデータ量にも対応できる 140倍の処理能力

最新のPascal アーキテクチャが採用されたNVIDIA P40は、47TOPS 以上ものDeep Learningにおける推論の性能を実現します。8枚のNVIDIA P40 を搭載した1台のサーバは、ディープラーニング向けの140個のCPU が搭載されたサーバと同等の性能を持ちながら、より低いコストでより高い処理能力をもたらします。

リアルタイム推論

NVIDIA P40 は、複雑なディープラーニングモデルであっても、INT8 オペレーションによって、リアルタイムに、30倍以上速い推論性能を可能とします。

均一なトレーニングと推論プラットフォームによるシンプルなオペレーション

昨今、ディープラーニングモデルは、GPUサーバでトレーニングされていますが、推論においては、CPUサーバが配置されています。NVIDIA P40 は、劇的にシンプル化されたワークフローを提供し、組織が同じサーバで繰り返して使用することもできます。

NVIDIA Deep Learning SDK で高速展開

NVIDIA Deep Learning SDK と Deep Stream SDK を備えたTensorRT は、新しいINT8 オペレーションやビデオトランスコーディングのような推論能力をカスタマーがシームレスに利用することをサポートします。