NVIDIA DGX A100 | NVIDIA認定パートナー

DGX A100

NVIDIA A100 Tensor Core GPU
で構築された世界初の AIシステム

New Release！
NVIDIA A100 80GB GPU 搭載モデル

2020年11月16日、NVIDIAより「NVIDIA A100 80GB」が発表されました。
「NVIDIA A100 80GB」は、高速な High Bandwidth Memory 2E(HBM2E) を採用し、容量を80GBに倍増。
さらに2TB/sを超えるメモリバス帯域幅を実現し、従来のA100と比較し1.25倍から3倍の性能向上を実現。

NVIDIA DGX ラインナップ

DGX A100
・NVIDIA A100 Tensor Core 80GB × 8 GPU搭載
・NVIDIA A100 Tensor Core 40GB × 8 GPU搭載
DGX STATION A100
・NVIDIA A100 Tensor Core 80GB × 4 GPU搭載
・NVIDIA A100 Tensor Core 40GB × 4 GPU搭載

DGX STATION A100 特徴・詳細はこちら

NVIDIA DGX A100 の特徴

GPU

NVIDIA A100 Tensor Core GPU × 8基搭載
GPUメモリ合計640GB (80GB搭載モデル)
GPU あたり 12 の NVLink GPU から GPU への帯域幅: 600 GB/秒

CPU & システムメモリ

デュアル 128コア AMD Rome CPU
2TB (80GB搭載モデル)でデータを最速に供給するメモリ
3.2 倍のコア(DGX-1比)で最も集中的な AI ジョブを強化

NVIDIA NVSwitch

6基のNVIDIA NVSwitch
双方向の帯域幅: 4.8 TB/秒前世代と比較して 2 倍

ネットワーク

10基または9基の MELLANOX CONNECTX-6 HDR 200Gb/秒ネットワーク
ピーク時の双方向の帯域幅: 500 GB/秒

ストレージ

30 TB の GEN4 NVME SSD
ピーク時の帯域幅: 50 GB/秒Gen3 NVME SSD より 2 倍高速

性能

ビッグデータ分析ベンチマークでCPUより最大83倍
DGX A100 640GBモデルは、320GBモデルより 2倍性能が向上

ビッグデータ分析ベンチマーク | 10TBデータセットで分析リテールクエリ30個、ETL、ML、NLP | CPU:Intel Xeon Gold 6252 2.10GHzの19倍、Hadoop | DGX-1(V100 32GBの8倍)の16倍、RAPIDS/Dask | DGX A100 320GBの12倍およびDGX A100 640GBの6倍、RAPIDS/Dask/BlazingSQL GPUの台数に標準化した速度向上率

DGX搭載
NVIDIA A100 Tensor Core GPU の特徴

Ampere

　・世界最大の7nmチップ
　・ 548トランジスタ, HBM2

第3世代 Tensor Cores

　・更なる高速化、柔軟性、簡便
　・ Voltaの20倍のAI性能@TF32

新たな高速スパース演算処理機能

　・ AIモデルにおけるスパースを活かし最大2倍のAI性能を発揮

新たなマルチインスタンスGPU（MIG）

　・正しいGPUサイズを使用することで活用率を最適化
　・ GPUあたり7つの同時実行可能インスタンス

第3世代 NVLINK & NVSwitch

　・システム性能最大化のための効率的なスケーリング
　・前世代より2倍以上の帯域

NVIDIA A100 Tensor Core GPU × 8 基搭載

異なるワークロードを1つのプラットフォームで実行

その他に！

最適化されたソフトウェアスタック

DGX には・・・・
・必要となるすべてのシステムソフトウェア
・ GPU 対応アプリケーション
・トレーニング済みモデル
・ NGC™ の各種機能
など、テスト済みで最適化された DGX ソフトウェアスタックが統合されています。

組み込まれたセキュリティ

DGX は・・・
・あらゆる主要なハードウェアとソフトウェアコンポーネントを保護するための自動暗号化ドライブ
・署名付きソフトウェアコンテナー
・安全な管理と監視といったマルチレイヤーアプローチ
を採用することで、
AI 導入において最も信頼性の高いセキュリティ体制を実現します。

ソフトウェア、ツール、専門スタッフによる万全のサポート

すばやい利用開始、迅速なトレーニング、スムーズな運用を実現します。

サポートポータルに加え、コールセンターを介したタイムリーな問題解決、ハウツー記事、アプリケーションノート等の提供

NVIDIAクラウド管理
（コンテナリポジトリ、コンテナ管理、ジョブスケジューリング、システムパフォーマンス監視、アップデート）

最新のソフトウェア更新、ファームウェアのアップグレード、DGXディープラーニングソフトウェアライフサイクルサポート

ハードウェアの問題の診断および、リモートとオンサイトでの解決、交換部品の翌日発送

NVIDIA DGX スペック比較

	DGX A100 640GB	DGX A100 320GB	DGX STATION A100 320 GB	DGX STATION A100 160 GB
GPU	NVIDIA A100 Tensor Core 80 GB × 8 基	NVIDIA A100 Tensor Core 40 GB × 8 基	NVIDIA A100 Tensor Core 80 GB × 4 基	NVIDIA A100 Tensor Core 40 GB × 4 基
GPUメモリ	Total 640 GB	Total 320 GB	Total 320 GB	Total 160 GB
性能	AI で 5 petaFLOPS INT8 で 10 petaOPS		AI で 2.5 petaFLOPS INT8 で 5 petaOPS
NVIDIA NVSwitches	6		－
CPU	Dual AMD Rome 7742 2.25 GHz(base), 3.4 GHz(max boost) Total 128 コア		Single AMD 7742 2.25 GHz (base) 3.4 GHz (max boost) Total 64 コア
システムメモリ	2 TB	1 TB (最大2TBに拡張可能)	512 GB DDR4
ネットワーク	Single-Port Mellanox ConnectX-6 VPI 200Gb/s HDR InfiniBand × 8 Dual-Port Mellanox ConnectX-6 VPI 10/25/50/100/200 Gb/s Ethernet × 2	Single-Port Mellanox ConnectX-6 VPI 200Gb/s HDR InfiniBand × 8 Dual-Port Mellanox ConnectX-6 VPI 10/25/50/100/200 Gb/s Ethernet × 1 (Dual Portカードを2枚に拡張可能)	Single-port 1Gbase-T Ethernet BMC management port Dual-port 10Gbase-T Ethernet LAN
ストレージ	OS: 1.92 TB M.2 NVME drives × 2 内部ストレージ: 30 TB (3.84 TB × 8) U.2 NVME drives	OS: 1.92 TB M.2 NVME drives × 2 内部ストレージ: 15 TB (3.84 TB × 4) U.2 NVME drives (30TBに拡張可能)	OS: 1.92 TB NVME drive × 1 内部ストレージ: 7.68 TB U.2 NVME drive
ソフトウェア	Ubuntu Linux OS Red Hat Enterprise Linux CentOS		Ubuntu Linux OS
最大消費電力	6.5 kW max		1.5 kW（100–120 Vac時）
重量	123 kg		43.1 kg
サイズ	全高: 264.0 mm 全幅: 482.3 mm 奥行: 897.1 mm		全高: 639 mm 全幅: 256 mm 奥行: 518 mm
運用温度範囲	5 ℃ - 30 ℃		5 ℃ - 35 ℃