NVIDIA DGX STATION | NVIDIA認定パートナー

DGX STATION A100

水冷システムによる静音と省電力
AI ワークステーション

New Release!
NVIDIA A100 Tensor Core GPU 搭載
DGX STATION A100 登場！

NVIDIA A100 Tensor Core GPUを搭載したモデルがリリースされました。
デスクサイドに設置可能なワークステーションサイズで、CPUにAMD 64Core EPYCを搭載。各GPU間は200GB/Secの第三世代NVLinkで接続されており、Gen4のPCI-Expressと比較して3倍のバンド幅を実現しています。

NVIDIA DGX SYSTEMS ラインナップ

DGX STATION A100
・NVIDIA A100 Tensor Core 80GB × 4 GPU搭載
・NVIDIA A100 Tensor Core 40GB × 4 GPU搭載

DGX A100
・NVIDIA A100 Tensor Core 80GB × 8 GPU搭載
・NVIDIA A100 Tensor Core 40GB × 8 GPU搭載

DGX A100 製品ページはこちら

NVIDIA DGX STATION A100

特徴

水冷システムによる静音と省電力でデスクサイドでも使える

✓ DGX Station A100 は、サーバー級ながら、データセンターの電力と冷却機能を必要としない AI システムです。
DGX Station A100 は 4 つの NVIDIA A100 Tensor コア GPU、最上位のサーバー級 CPU、超高速 NVMe ストレージ、最先端の PCIe Gen4 バスを備えています。それに加えてリモート管理が可能で、サーバーのように管理できます。

✓ 企業のオフィス、研究室、研究施設、さらには自宅で作業する今日のアジャイルデータサイエンスチームのために設計された DGX Station A100 には、複雑な設置作業も、多額の IT 投資も必要ありません。一般的なコンセントにプラグを差し込むだけで数分後には稼働し、どこからでも作業できます。

✓ NVIDIA DGX Station A100 は、MIG 対応 NVIDIA A100 GPU が 4 つ完全相互接続された、世界で唯一のワークステーションスタイルシステムです。NVIDIA® NVLink® によって、システムパフォーマンスに影響を与えることなく、並列ジョブを実行し、複数のユーザーに対処します。完全に GPU 最適化されたソフトウェアスタックと最大 320 ギガバイト (GB) の GPU メモリで大規模モデルをトレーニングできます。

✓ DGX Station A100 を利用すれば、組織は、NVIDIA DGX™ ベースの他のインフラストラクチャとシームレスに統合されたシステムを利用し、あらゆるワークロード (トレーニング、推論、データ分析) のために、集中型 AI リソースを複数のユーザーに提供できます。また、マルチインスタンス GPU (MIG) を利用すると、最大 28 台の独立した GPU デバイスを個々のユーザーに割り当てることができます。

NVIDIA DGX STATION 誕生の舞台裏

トレーニング

BERT 大規模なトレーニング済み Phase 1

DGX Station A100 320GB; Batch Size=64; Mixed Precision; With AMP; Real Data; Sequence Length=128

3倍の高速化！

Relative Performance

推論

BERT 大規模な推論

DGX Station A100 320GB; Batch Size=256; INT8 Precision; Synthetic Data; Sequence Length=128, cuDNN 8.0.4

4倍以上の高速化！

Relative Performance

マルチ GPU のスケーラビリティ

ResNet-50 V1.5 トレーニング

DGX Station A100 320GB; Batch Size=192; Mixed Precision; Real Data; cuDNN Version=8.0.4; NCCL Version=2.7.8; NGC MXNet 20.10 Container

高い拡張性！

Images per Second

NVIDIA DGX STATION A100 スペック

	DGX STATION A100 320 GB	DGX STATION A100 160 GB
GPU	NVIDIA A100 Tensor Core 80 GB × 4 GPUs	NVIDIA A100 Tensor Core 40 GB × 4 GPUs
GPUメモリ	Total 320 GB	Total 160 GB

性能	2.5 petaFLOPS AI 5 petaOPS INT8
CPU	Single AMD 7742 2.25 GHz (base) 3.4 GHz (max boost) 64コア
システムメモリ	512 GB DDR4
ネットワーク	Dual-port 10Gbase-T Ethernet LAN Single-port 1Gbase-T Ethernet BMC management port
ストレージ	OS: 1.92 TB NVME drive × 1 内部ストレージ: 7.68 TB U.2 NVME drive
ソフトウェア	Ubuntu Linux OS
最大消費電力	1.5 kW at 100–120 Vac
重量	43.1 kgs
サイズ	全高: 639 mm 全幅: 256 mm 奥行: 518 mm
運用温度範囲	5 ℃ - 35 ℃

DGX SYSTEMS 共通

最適化されたディープラーニングフレームワークがすぐに使える

DGX Systemsは、DGXソフトウェアスタックを備えておりAIのパワーを迅速に展開し、コストと複雑性を増大させることなく、運用をより大規模に行うことができます。

DGXソフトウェアスタックは、現在最もポピュラーなディープラーニングフレームワーク群や、各種タスクをWebアプリで処理できる NVIDIA DIGITS™、そしてMapDや、KineticaといったサードパーティのGPUアプリケーションを含みます。

また、それらの土台となる NVIDIA Deep Learning SDK (cuDNN や cuBLAS) 、CUDA Toolkit、高速なマルチGPU集合通信を実現する NCCL、そして NVIDIA Docker やGPUドライバまでもが統合されています。