NVIDIA DGX A100 | NVIDIA認定パートナー

DGX A100

NVIDIA A100 Tensor Core GPU
で構築された世界初の AIシステム

NVIDIA DGX は、前例のない計算処理密度・パフォーマンス、AI開発の要求に応えるために誕生し、最新鋭の「NVIDIA A100 Tensor Core GPU」を搭載しています。
「NVIDIA A100 Tensor Core GPU」は、前世代（Volta）と比較して最大20倍のパフォーマンス。
GPUメモリは40GBと80GB があり、80GBは毎秒 2テラバイト (TB/秒) 超えの世界最速メモリ帯域幅を実現。
また、マルチインスタンス GPU (MIG)機能も大きな特徴です。

NVIDIA A100 80GB GPU 搭載モデル

2020年11月16日、NVIDIAより「NVIDIA A100 80GB」が発表されました。
「NVIDIA A100 80GB」は、高速な High Bandwidth Memory 2E(HBM2E) を採用し、容量を80GBに倍増。
さらに2TB/sを超えるメモリバス帯域幅を実現し、従来のA100（40GB）と比較して、1.25倍から3倍の性能向上を実現。

NVIDIA DGX ラインナップ

DGX A100
・NVIDIA A100 Tensor Core 80GB × 8 GPU搭載
・NVIDIA A100 Tensor Core 40GB × 8 GPU搭載
DGX STATION A100
・NVIDIA A100 Tensor Core 80GB × 4 GPU搭載
・NVIDIA A100 Tensor Core 40GB × 4 GPU搭載

DGX STATION A100 特徴・詳細はこちら

NVIDIA DGX A100 特徴

超高速処理・高性能・信頼性

GPU

NVIDIA A100 Tensor Core GPU × 8基搭載
GPUメモリ合計640GB (80GB搭載モデル)
GPU あたり 12 の NVLink GPU から GPU への帯域幅: 600 GB/秒

CPU & システムメモリ

デュアル 128コア AMD Rome CPU
2TB (80GB搭載モデル)でデータを最速に供給するメモリ
3.2 倍のコア(DGX-1比)で最も集中的な AI ジョブを強化

NVIDIA NVSwitch

6基のNVIDIA NVSwitch
双方向の帯域幅: 4.8 TB/秒前世代と比較して 2 倍

ネットワーク

10基または9基の MELLANOX CONNECTX-6 HDR 200Gb/秒ネットワーク
ピーク時の双方向の帯域幅: 500 GB/秒

ストレージ

30 TB の GEN4 NVME SSD
ピーク時の帯域幅: 50 GB/秒Gen3 NVME SSD より 2 倍高速

性能

ビッグデータ分析ベンチマークでCPUより最大83倍
DGX A100 640GBモデルは、320GBモデルより 2倍性能が向上

ビッグデータ分析ベンチマーク | 10TBデータセットで分析リテールクエリ30個、ETL、ML、NLP | CPU:Intel Xeon Gold 6252 2.10GHzの19倍、Hadoop | DGX-1(V100 32GBの8倍)の16倍、RAPIDS/Dask | DGX A100 320GBの12倍およびDGX A100 640GBの6倍、RAPIDS/Dask/BlazingSQL GPUの台数に標準化した速度向上率

NVIDIA DGX 搭載
NVIDIA A100 Tensor Core GPU 特徴

Ampere

　・世界最大の7nmチップ
　・ 548トランジスタ, HBM2

第3世代 Tensor Cores

　・更なる高速化、柔軟性、簡便
　・ Voltaの20倍のAI性能@TF32

新たな高速スパース演算処理機能

　・ AIモデルにおけるスパースを活かし最大2倍のAI性能を発揮

新たなマルチインスタンスGPU（MIG）

　・正しいGPUサイズを使用することで活用率を最適化
　・ GPUあたり7つの同時実行可能インスタンス

第3世代 NVLINK & NVSwitch

　・システム性能最大化のための効率的なスケーリング
　・前世代より2倍以上の帯域

NVIDIA A100 Tensor Core GPU × 8 基搭載

異なるワークロードを1つのプラットフォームで実行

その他に・・・

最適化されたソフトウェアスタック

・必要となるすべてのシステムソフトウェア
・ GPU 対応アプリケーション
・トレーニング済みモデル
・ NGC™ の各種機能
など、テスト済みで最適化された DGX ソフトウェアスタックが統合されています。

すべてのDGX システムにおいて、ソフトウェア、ツール、NVIDIA専門スタッフからなる統合的なソリューションが、すばやい利用開始、迅速なトレーニング、スムーズな運用を実現します。

組み込まれたセキュリティ

・あらゆる主要なハードウェアとソフトウェアコンポーネントを保護するための自動暗号化ドライブ
・署名付きソフトウェアコンテナー
・安全な管理と監視といったマルチレイヤーアプローチ
を採用しています。

最も信頼性の高いセキュリティ体制を実現します。

ソフトウェア、ツール、専門スタッフによる万全のサポート

安心してお使いいただけます。

サポートポータルに加え、コールセンターを介したタイムリーな問題解決、ハウツー記事、アプリケーションノート等の提供

NVIDIAクラウド管理
（コンテナリポジトリ、コンテナ管理、ジョブスケジューリング、システムパフォーマンス監視、アップデート）

最新のソフトウェア更新、ファームウェアのアップグレード、DGXディープラーニングソフトウェアライフサイクルサポート

ハードウェアの問題の診断および、リモートとオンサイトでの解決、交換部品の翌日発送

NVIDIA DGX スペック比較

	DGX A100		DGX STATION A100
	640GB	320GB	320 GB	160 GB
GPU	NVIDIA A100 Tensor Core 80 GB × 8 基	NVIDIA A100 Tensor Core 40 GB × 8 基	NVIDIA A100 Tensor Core 80 GB × 4 基	NVIDIA A100 Tensor Core 40 GB × 4 基
GPUメモリ	Total 640 GB	Total 320 GB	Total 320 GB	Total 160 GB
性能	AI で 5 petaFLOPS INT8 で 10 petaOPS		AI で 2.5 petaFLOPS INT8 で 5 petaOPS
NVIDIA NVSwitches	6		－
CPU	Dual AMD Rome 7742 2.25 GHz(base), 3.4 GHz(max boost) Total 128 コア		Single AMD 7742 2.25 GHz (base) 3.4 GHz (max boost) Total 64 コア
システムメモリ	2 TB	1 TB (最大2TBに拡張可能)	512 GB DDR4
ネットワーク	Single-Port Mellanox ConnectX-6 VPI 200Gb/s HDR InfiniBand × 8 Dual-Port Mellanox ConnectX-6 VPI 10/25/50/100/200 Gb/s Ethernet × 2	Single-Port Mellanox ConnectX-6 VPI 200Gb/s HDR InfiniBand × 8 Dual-Port Mellanox ConnectX-6 VPI 10/25/50/100/200 Gb/s Ethernet × 1 (Dual Portカードを2枚に拡張可能)	Single-port 1Gbase-T Ethernet BMC management port Dual-port 10Gbase-T Ethernet LAN
ストレージ	OS: 1.92 TB M.2 NVME drives × 2 内部ストレージ: 30 TB (3.84 TB × 8) U.2 NVME drives	OS: 1.92 TB M.2 NVME drives × 2 内部ストレージ: 15 TB (3.84 TB × 4) U.2 NVME drives (30TBに拡張可能)	OS: 1.92 TB NVME drive × 1 内部ストレージ: 7.68 TB U.2 NVME drive
ソフトウェア	Ubuntu Linux OS Red Hat Enterprise Linux 7,8 / CentOS 7,8		Ubuntu Linux OS Red Hat Enterprise Linux 7 / CentOS 7
最大消費電力	6.5 kW max		1.5 kW（100–120 Vac時）
重量	123 kg		43.1 kg
サイズ	全高: 264.0 mm 全幅: 482.3 mm 奥行: 897.1 mm		全高: 639 mm 全幅: 256 mm 奥行: 518 mm
運用温度範囲	5 ℃ - 30 ℃		5 ℃ - 35 ℃