GDEP Solutions, Inc.
  • Home
    • 新着情報一覧
    • GPU2020 開催概要 >
      • Day1-AI&GPU
      • Day2-ImagingAI
      • Day3-GPUスパコン
      • 過去開催 GPU2019
  • GPU製品
    • 3月納品可能!GPU搭載ワークステーション
    • AI・データサイエンスおすすめ一覧 >
      • NVIDIA DGX A100
      • DGX STATION A100
      • HP Z8 G4
      • HP ZBook Fury17G7 Mobile Workstation
      • Dell Precision 7920 Tower
      • DeepLearning BOXⅡ
      • DeepLearning STATION
      • NVIDIA RTX サーバー
      • HITACHI SR24000
    • 数値計算・解析おすすめ一覧 >
      • HP Z4 G4
      • HP Z8 G4 解析ソフトウェア動作確認済みモデル
      • Supermicro 7049GP
    • NVIDIA GPU 一覧 >
      • NVIDIA RTX A6000
      • Quadro RTX8000
      • Quadro GV100
      • NVIDIA A100
      • NVIDIA V100S
      • NVIDIA T4
    • GPUレンタル一覧
  • ストレージ
    • ストレージ一覧 >
      • Synology
      • DDN STORAGE
      • PURESTORAGE
  • HPC
    • HPC Workstation
    • AXXE-L by XTREME-D
    • NVIDIA HPC SDK
    • 高速化受託サービス
  • クラウド製品
    • セキュリティ >
      • KernelCare
    • 仮想化 >
      • Login VSI
      • Login PI
    • リモートアクセス >
      • FastX
      • NiceDCV
      • NoMachine
    • ハイブリッドクラウドNAS >
      • Morro Data
  • GPUコラム / 導入事例
    • GPUプログラミング入門 >
      • 第11回:OpenACCを使ったICCG法の高速化
      • 第10回:OpenACCでできる最適化とは?
      • 第9回:速くならない?とりあえずライブラリに頼ろう!
      • 第8回:OpenACCでも扱えるけど面倒な構造体
      • 第7回:今あるプログラムを楽に速くするためには
      • 第6回:プログラムの実行時間を確認しよう
      • 第5回:コンパイラのメッセージを確認しよう
      • 第4回:拡散現象シミュレーションのOpenACC化
      • 第3回:データ転送の最小化はほとんどのアプリケーションで必須
      • 第2回:その前に知っておきたいGPUの特長
      • 第1回:今あるプログラムを楽に速くするためには?
    • GPU Technology for CG/AI >
      • AlphaGo とその後
      • CUDAを用いたシンプルなパストレーシング
      • 流体シミュレーションの応用
      • GPUを用いた高速レンダリング
      • GPUを基盤としたCG/AIの技術進化
    • ツブ子が聞く・見る・行く! >
      • 聞く!NVIDIA DGX A100
      • 見る!NVIDIA A100 Tensor Core GPU
    • 導入事例 >
      • DGX SYSTEMS
      • GPU Computing
  • 会社情報
    • ごあいさつ
    • 会社概要
    • アクセスマップ
    • 採用情報
  • お問い合わせ

OpenACCではじめるGPUプログラミング

第6回:プログラムの実行時間を確認しよう
画像

第6回:プログラムの実行時間を確認しよう

7/31/2020

 
前回は、拡散方程式のプログラムを例として、OpenACCのコンパイラが出力するメッセージについて学びました。
​今回は、OpenACCプログラムを実行した際の、プログラムの性能の確認方法について学びます。

プログラムの実行時間を確認しよう

GPUを使う上で必ず考えなければならないのが、プログラムの実行速度です。
今あるプログラムを速くするためにわざわざOpenACC化を進めているわけですから、遅かったら意味がないのです。

では、プログラムの実行時間はどのように確認したらよいでしょうか?
​拡散方程式のプログラム(サンプルプログラム) を例として、いくつか紹介します。
  • gettimeofday 関数を使う
gettimeofday関数は、その名の通り現在時刻を得るための関数で、sys/time.hをincludeすることで利用可能なC言語の標準機能です。

オーバーヘッド(時間計測そのものにかかる余分な時間)も比較的少なく、よく使われる手法です。
​サンプルプログラム 内でも使っています(図1)。
​
標準機能なのでどこでも使えますし、CPU実装と速度を比較する際などにも便利です。
画像
画像
図1:gettimeofday関数を使った自作タイマー関数の例
  • MPI_WTIME 関数や omp_get_wtime 関数を使う
MPI_WTIMEはMPIプログラムの、omp_get_wtimeはOpenMPプログラムのために用意された、時間計測関数です。

​MPIとOpenMPは、どちらもCPU向けの並列プログラミングモデルですが、それらを利用していないプログラムでも、ヘッダファイルの読み込みなどにより利用可能です。

​gettimeofday関数の無いFortranプログラムの時間計測によく用いられます。
Fortranプログラムで利用する例を図2に示します。MPI_WTIMEも似たような使い方が可能です。
画像
図2:omp_get_wtime関数を使った自作タイマー関数(Fortran)の例
  • 環境変数PGI_ACC_TIMEを使う
上記二つは一般的な時間計測方法でしたが、PGIコンパイラの機能として提供されている、OpenACC向けの方法についても紹介します。

​ここからが今回のメインの話です。使い方は簡単で、環境変数 PGI_ACC_TIME を 1にセットするだけです。Bash環境なら、
$ export PGI_ACC_TIME=1
$ ./a.out
のようにして使います。

ただし計測のオーバーヘッドがgettimeofday関数などと比べると大きいため、計測時以外は0にしておくことをお勧めします。

PGI_ACC_TIMEが1にセットされていると、標準エラー出力に図3のような出力が得られます。
​図3は、CPU-GPU間のデータ転送が最小化されていない、拡散方程式プログラムを動かした場合です。
画像
図3:PGI_ACC_TIMEを使った際の出力例
PGI_ACC_TIMEを1にセットした場合、OpenACCに関する実行時の情報が出力されます。
OpenACCの指示文が含まれる関数名と、そこでkernelsが何回実行されたか、スレッドはどのくらい使われたか、実行時間はどうだったか、データ転送の時間や回数はどうか。といった情報を得ることができます。

​この例の場合、kernels指示文による計算本体の実行時間と比べて、データ転送時間が数十倍となっており、データ転送の最小化が必要であることがすぐにわかります。
  • NVIDIA Visual Profiler を使う
NVIDIA Visual Profiler とは、CUDA向けに開発された、性能解析ツールです。
OpenACCのプログラムでもこれを利用することができます。

​非常に優れたツールで、細かい実行時情報がたくさん得られるのですが、それらの細かい情報を得てもOpenACCでは改善しようがないことが多いため、現段階では非推奨です。

​本コラムでは、最終的にはOpenACCとCUDAを組み合わせて使うことを推奨しておりますので、その時にまた紹介したいと思います。
今回は、GPUプログラミングとは切っても切れない性能評価方法について紹介しました。

​プログラムを高速化するためには避けては通れませんので、是非試してみてください。
< 1ヵ月間有効のスパコンお試しアカウント >
東京大学情報基盤センターでは、教育の一環として、制限はあるものの一ヵ月の間有効なスパコンアカウントを提供しています。
現在3つのスパコンが運用されていますが、そのうちReedbushと呼ばれるスパコンには、一世代前のものではありますがGPUが搭載されていて、OpenACCを使える環境も整っています。
自分でどんどん自習したい場合は、ご利用を考えてみてください。

トライアルアカウント申し込みページ
https://www.cc.u-tokyo.ac.jp/guide/trial/free_trial.php

< 過去の講習会の資料やプログラム公開中 >
東大センターが行った過去のOpenACCに関する講習会の資料やプログラムも公開されていますので、自習する場合にはぜひご利用ください。

講習会ページ ※オンライン講習会 定期開催中!
https://www.cc.u-tokyo.ac.jp/events/lectures/

講習会で用いているプログラム
https://www.dropbox.com/s/z4fmc4ibdggdi0y/openacc_samples.tar.gz?dl=0​

    著者

    東京大学
    助教 星野 哲也 先生
    <略歴>
    ​​2016年~現在:東京大学
    情報基盤センター
    スーパーコンピューティング研究部門 助教

    ​2018年:東京工業大学
    ​大学院情報理工学研究科 数理・計算科学専攻 博士課程修了 博士(理学)

    アーカイブ
    第1回(2020年1月)
    ​第2回(2020年3月)
    第3回(2020年4月)
    第4回(2020年5月)
    ​第5回(2020年6月)
    ​
    第6回(2020年7月)
    第7回(2020年8月)
    第8回(2020年9月)
    ​
    第9回(2020年10月)
    ​
    第10回(2020年11月)
    第11回(2020年12月)
    ​一覧で見る ≫

    RSS フィード

Picture
GDEPソリューションズ株式会社
東京都文京区本郷三丁目34番3号 本郷第一ビル8階
TEL:03-5802-7050
・NVIDIA認定 Elite Partner [最上位レベル]
・NVIDIA Advanced Technology Program 達成  [DGX 販売資格]
・東京都公安委員会 古物営業許可番号
 第305471905562号
≫ 新着情報
​

GPU製品
≫ 3月納品可能!GPU搭載ワークステーション
≫ AI・データサイエンスおすすめ
≫ 数値計算・解析おすすめ一覧
≫ NVIDIA GPU一覧

≫ GPUレンタル一覧

HPC
≫ HPC Workstation
≫ AXXE-L by XTREME-D
≫ NVIDIA HPC SDK
≫ 高速化 受託サービス
​ストレージ
​≫ ストレージ一覧

クラウド製品
​≫ セキュリティ
≫ 仮想化
≫ リモートアクセス

≫ ハイブリッドクラウドNAS

​GPUコラム/導入事例
≫ GPUプログラミング入門
≫ GPU Technology for CG/AI
≫ ツブ子が聞く・見る・行く
≫ 導入事例
会社情報
≫ ごあいさつ
≫ 会社概要
≫ アクセスマップ
≫ 採用情報
​
≫ お問い合わせ
​
≫ 個人情報の取扱いについて
≫ 利用規約
©2020 GDEP Solutions,Inc.
  • Home
    • 新着情報一覧
    • GPU2020 開催概要 >
      • Day1-AI&GPU
      • Day2-ImagingAI
      • Day3-GPUスパコン
      • 過去開催 GPU2019
  • GPU製品
    • 3月納品可能!GPU搭載ワークステーション
    • AI・データサイエンスおすすめ一覧 >
      • NVIDIA DGX A100
      • DGX STATION A100
      • HP Z8 G4
      • HP ZBook Fury17G7 Mobile Workstation
      • Dell Precision 7920 Tower
      • DeepLearning BOXⅡ
      • DeepLearning STATION
      • NVIDIA RTX サーバー
      • HITACHI SR24000
    • 数値計算・解析おすすめ一覧 >
      • HP Z4 G4
      • HP Z8 G4 解析ソフトウェア動作確認済みモデル
      • Supermicro 7049GP
    • NVIDIA GPU 一覧 >
      • NVIDIA RTX A6000
      • Quadro RTX8000
      • Quadro GV100
      • NVIDIA A100
      • NVIDIA V100S
      • NVIDIA T4
    • GPUレンタル一覧
  • ストレージ
    • ストレージ一覧 >
      • Synology
      • DDN STORAGE
      • PURESTORAGE
  • HPC
    • HPC Workstation
    • AXXE-L by XTREME-D
    • NVIDIA HPC SDK
    • 高速化受託サービス
  • クラウド製品
    • セキュリティ >
      • KernelCare
    • 仮想化 >
      • Login VSI
      • Login PI
    • リモートアクセス >
      • FastX
      • NiceDCV
      • NoMachine
    • ハイブリッドクラウドNAS >
      • Morro Data
  • GPUコラム / 導入事例
    • GPUプログラミング入門 >
      • 第11回:OpenACCを使ったICCG法の高速化
      • 第10回:OpenACCでできる最適化とは?
      • 第9回:速くならない?とりあえずライブラリに頼ろう!
      • 第8回:OpenACCでも扱えるけど面倒な構造体
      • 第7回:今あるプログラムを楽に速くするためには
      • 第6回:プログラムの実行時間を確認しよう
      • 第5回:コンパイラのメッセージを確認しよう
      • 第4回:拡散現象シミュレーションのOpenACC化
      • 第3回:データ転送の最小化はほとんどのアプリケーションで必須
      • 第2回:その前に知っておきたいGPUの特長
      • 第1回:今あるプログラムを楽に速くするためには?
    • GPU Technology for CG/AI >
      • AlphaGo とその後
      • CUDAを用いたシンプルなパストレーシング
      • 流体シミュレーションの応用
      • GPUを用いた高速レンダリング
      • GPUを基盤としたCG/AIの技術進化
    • ツブ子が聞く・見る・行く! >
      • 聞く!NVIDIA DGX A100
      • 見る!NVIDIA A100 Tensor Core GPU
    • 導入事例 >
      • DGX SYSTEMS
      • GPU Computing
  • 会社情報
    • ごあいさつ
    • 会社概要
    • アクセスマップ
    • 採用情報
  • お問い合わせ