DGX A100
NVIDIA A100 Tensor コア GPU
で構築された世界初の AIシステム
で構築された世界初の AIシステム
世界初のAIシステムと言われる理由 |
※ DGX 全4種類「スペック比較」を下記に掲載しています。
|
|
１．最新GPU Ampere（アンペア）アーキテクチャ「NVIDIA A100 」を8基 搭載
→ GPUあたり12 の NVLink GPU から GPU への帯域幅 600 GB/秒 ２．第2世代の NVIDIA® NVSwitch™ → 双方向の帯域幅 4.8 TB/秒、前世代と比較して2倍 ３．9x MELLANOX CONNECTX-6 VPI HDR INFINIBAND/ 200 Gb/s イーサネット → ピーク時の双方向の帯域幅 450 GB/秒 ４．デュアル 64 コア AMD CPU と 1 TB システム メモリ → 3.2 倍のコアで最も集中的な AI ジョブを強化 ５．15 TB の GEN4 NVME SSD → ピーク時の帯域幅 25 GB/秒 Gen3 NVME SSD より 2 倍高速 |
|
NVIDIA DGX™ A100は、GPUに最新のAmpereアーキテクチャ「NVIDIA A100」を NVSwitch で結合し8基搭載、
CPUは、AMDのRome EPYC7742 64コア 3.4GHzを採用しています。
ストレージはOS用として1.92TB NVMeSSDをRAID-1で搭載し冗長性を確保、さらにキャッシュ用として高速なU.2 NVNeをRAID-0構成で15TB（3.84TBx4基）確保しています。
外部インターコネクトは、Mellnox ConnectX®-6 HDR 200Gb/s のQSFP56ポートを8基装備しスケールアップを強力にしています。
新しいGPUである「 NVIDIA A100 」の演算性能は、倍精度で19.5TFLOPSと従来の約2.5倍、単精度は「TF32」と呼ばれるFP32とFP16のハイブリッド方式を採用しソフトウェアの改編の必要なく 312TFLOPSのスループットを実現。
ディープラーニング推論性能は、1,248TOPSといずれもV100の約20倍の演算性能を誇り、8基のNVIDIA A100を搭載した「 DGX A100 」のAI性能は1ノードで5PFLOPSを実現しました。
CPUは、AMDのRome EPYC7742 64コア 3.4GHzを採用しています。
ストレージはOS用として1.92TB NVMeSSDをRAID-1で搭載し冗長性を確保、さらにキャッシュ用として高速なU.2 NVNeをRAID-0構成で15TB（3.84TBx4基）確保しています。
外部インターコネクトは、Mellnox ConnectX®-6 HDR 200Gb/s のQSFP56ポートを8基装備しスケールアップを強力にしています。
新しいGPUである「 NVIDIA A100 」の演算性能は、倍精度で19.5TFLOPSと従来の約2.5倍、単精度は「TF32」と呼ばれるFP32とFP16のハイブリッド方式を採用しソフトウェアの改編の必要なく 312TFLOPSのスループットを実現。
ディープラーニング推論性能は、1,248TOPSといずれもV100の約20倍の演算性能を誇り、8基のNVIDIA A100を搭載した「 DGX A100 」のAI性能は1ノードで5PFLOPSを実現しました。
規模を問わず、前例のない加速
NVIDIA A100 TENSOR コア GPU
新しいGPUである NVIDIA A100 の演算性能は、倍精度で19.5 TFLOPSと従来のGPUの約2.5倍、単精度は「TF32」と呼ばれるFP32とFP16のハイブリッド方式を採用し、ソフトウェアの改編の必要なく 312 TFLOPSのスループットを実現。
第 3 世代の NVIDIA Tensor コアにより性能を大幅に向上できるようになり、NVIDIA A100 を効率的に数千までスケール アップできます。
また、マルチインスタンス GPU を使用すれば、あらゆるサイズのワークフローを加速するために 7 つの小さな専用インスタンスとして割り当てることができます。
第 3 世代の NVIDIA Tensor コアにより性能を大幅に向上できるようになり、NVIDIA A100 を効率的に数千までスケール アップできます。
また、マルチインスタンス GPU を使用すれば、あらゆるサイズのワークフローを加速するために 7 つの小さな専用インスタンスとして割り当てることができます。
* ピーク性能時
|
|
マルチインスタンス GPU (MIG)MIG を利用することで、DGX A100 の 8 つの GPU「NVIDIA A100 」を最大 56 個の GPU インスタンスとして構成し、それぞれが独自の高帯域幅メモリ、キャッシュ、コンピューティング コアで完全分離できます。
これにより管理者は、複数のワークフローに対してサービス品質 (QoS) が保証された GPU のサイズを適切に設定することができます。 |
|
次世代 NVLink と NVSwitchDGX A100 の第 3 世代の NVIDIA® NVLink® は、GPU から GPU への直接帯域幅を 600 ギガバイト/秒 (GB/s) まで倍増します。
これは PCIe Gen4 のほぼ 10 倍に相当します。DGX A100 には、前世代と比較して 2 倍の速度を可能にする次世代の NVIDIA NVSwitch™ も搭載されています。 |
|
Mellanox ConnectX-6 VPI HDR InfiniBandDGX A100 には最新型の Mellanox ConnectX-6 VPI HDR InfiniBand /イーサネット アダプターが搭載されており、それぞれが 200 ギガバイト/秒 (GB/s) で動作し、大規模 AI ワークフロー用の高速ファブリックを形成します。
|
|
最適化されたソフトウェア スタックDGX A100 には、AI チューニングされた基本オペレーティング システム、必要となるすべてのシステム ソフトウェア、GPU 対応アプリケーション、トレーニング済みモデル、NGC™ の各種機能など、テスト済みで最適化された DGX ソフトウェア スタックが統合されています。
|
|
組み込まれたセキュリティDGX A100 は、あらゆる主要なハードウェアとソフトウェア コンポーネントを保護するための自動暗号化ドライブ、署名付きソフトウェア コンテナー、安全な管理と監視といったマルチレイヤー アプローチを採用することで、AI 導入において最も信頼性の高いセキュリティ体制を実現します。
|
|
NVIDIA DGX SYSTEMS スペック比較
NVIDIA DGX A100 |
NVIDIA DGX-2™ |
NVIDIA DGX-1™ |
NVIDIA DGX Station™ |
|
GPU |
NVIDIA A100 Tensor Core × 8 |
NVIDIA ® Tesla ® V100 × 16 |
NVIDIA ® Tesla ® Tesla V100 × 8 |
NVIDIA ® Tesla ® V100 × 4 |
GPUメモリ |
Total 320 GB |
Total 512 GB |
Total 256 GB |
Total 128 GB |
性能 |
5 petaFLOPS AI 10 petaOPS INT8 |
2 petaFLOPS |
1 petaFLOPS |
500 TFLOPS |
NVIDIA CUDA ® コア |
ー |
81,920 |
40,960 |
20,480 |
NVIDIA Tensor コア |
ー |
10,240 |
5,120 |
2,560 |
NVIDIA NVSwitches |
6 |
12 |
ー |
ー |
CPU |
Dual AMD Rome 7742 2.25 GHz(base), 3.4 GHz(max boost) 128 コア |
Dual Intel Xeon Platinum 8168, 2.7 GHz, 24 コア |
Dual 20-Core Intel Xeon E5-2698 v4 2.2 GHz, 20 コア |
Intel Xeon E5-2698 v4 2.2 GHz, 20 コア |
システムメモリ |
1 TB |
1.5 TB |
512 GB ※オプション：1TB を選択可能 |
256 GB ※オプション：512GB を選択可能 |
ネットワーク |
8 x Single-Port Mellanox ConnectX-6 VPI 200Gb/s HDR InfiniBand 1 x Dual-Port Mellanox ConnectX-6 VPI 10/25/50/100/200Gb/s Ethernet |
1 GbE × 1 Dual 10/25/40/50/100GbE × 1 Infiniband EDR/100 GigE × 8. |
10 GbE × 2 Infiniband EDR × 4 |
10 GbE × 2 |
ストレージ |
OS: 1.92 TB M.2 NVMe drives × 2 内部ストレージ: 15 TB (4 x 3.84 TB) U.2 NVMe drives |
OS: 960 GB NVMe SSD × 2 内部ストレージ： 30 TB NVMe SSD ※オプション：内部ストレージ 3.84 TB x 16 (60TB）を選択可能 |
OS : 480 GB SSD 内部ストレージ : 1.92 TB SSD × 4 RAID 0 |
OS: 1.92TB SSD × 1 内部ストレージ : 1.92 TB SSD × 3 RAID 0 ※オプション：内部ストレージ 1.92 TB SSD × 4 を追加可能 |
ソフトウェア |
Ubuntu Linux OS |
Canonical Ubuntu Red Hat Enterprise Linux |
Canonical Ubuntu Red Hat Enterprise Linux |
Ubuntu Desktop Linux OS DGX推奨 GPU ドライバ CUDA Toolkit |
最大消費電力 |
6.5 kW |
10 kW |
3,500 W |
1,500 W |
重量 |
123 kgs |
163.3 kg |
61 kg |
40 kg |
サイズ |
全高: 264.0 mm 全幅: 482.3 mm 奥行: 897.1 mm |
全高: 440 mm 全幅: 482 mm 奥行: 834 mm |
全高: 131 mm 全幅: 444 mm 奥行: 866 mm |
全高: 639 mm 全幅: 256 mm 奥行: 518 mm |
運用温度範囲 |
5 ℃ - 30 ℃ |
5 ℃ - 35 ℃ |
10 ℃ - 35 ℃ |
10 ℃ - 30 ℃ |
お気軽にご相談ください！
製品に関するご質問・ご相談など、お気軽にお問い合わせください。
NVIDIA認定のエリートパートナー「GDEPソリューションズ」は、
お客様の用途に最適な製品のご提案から導入までサポートします。
NVIDIA認定のエリートパートナー「GDEPソリューションズ」は、
お客様の用途に最適な製品のご提案から導入までサポートします。
