OpenACCの基本的な考え方や使い方については、前回まででおおよそ説明しきってしまいました。
それでは習うより慣れろということで、今までの総仕上げとして、ICCG法プログラムのOpenACC実装についてご紹介します。 OpenACCを使ったICCG法の高速化
さて、OpenACCの学習は習うより慣れよ、が基本です。
OpenACCの指示文の細かい使い方については、ソフテックさんのOpenACCサイト(2021年1月よりプロメテック・ソフトウェア/GDEPソリューションズ 共同運営のHPCWORLDへ移管)にかなり詳しく記載されていますから、そちらにお任せするとして、この記事では実際のアプリケーションへの実装を通じてOpenACCの使用感をつかんでいただくことを目標としてます。
OpenACC化をする上で、こういったループを見た際に考えたいのは2つ、
です。ループを見たときには常にこれを考えるというのがOpenACC化の方針です。
まず1ですが、このループは ri の更新のために ri-1 を使っているため、データ依存性のあるループであると言えます。
つまりはOpenACCで並列化できないことになります。
ということで 2のデータ移動について考えます。 何度も言及している通り、CPU-GPU間のデータ転送は非常に時間がかかるので、ループの中で繰り返しデータ転送するのは、深刻な性能低下を招きます。 ループの外側にデータ転送を追い出すためには、ループ内でのCPUによる処理、特に配列アクセスを伴う処理を如何に減らせるかにかかっています。 ループの中身を詳細に見ていきましょう。
図2は、不完全修正コレスキー分解を行うコードです。
まず4行目から始まるループは、データ独立なループであると言えますから、簡単にOpenACC化できますね。 問題は、7行目から始まる三重ループと、16行目から始まる三重ループです。 これらはどうでしょうか。 まずは一番内側のループ(10, 19行目)から考えてみましょう。 これらは、OpenACCで並列化可能なリダクションループですから、並列化可能です。 それでは、i のループ(8, 17行目)はどうでしょうか。 少なくともこのループをGPUで実行できないと、13, 22行目の配列アクセスをCPU側で行わなければならなくなってしまいますが、並列化はできるのでしょうか。 …実はこのループ、 図2を見ただけでは並列化できるかどうかはわかりません! その理由は、11, 20行目に現れる間接参照(W[Z][itemL[j]-1])です。 このitemL[j]-1の値が仮にi-1になるのであれば、W[Z][i-1]の値を使ってW[Z][i]の値を計算することになり、典型的なデータ依存のあるループになってしまいます。 そんなわけで、OpenACC化を行うためには、時にプログラムの内容の理解が求められます。 このプログラムの場合には、多色順序付け(マルチカラーリング)と呼ばれる並列化技法(図3)が使われていて、現在更新しようとしている色(W[Z][i])と参照しようとしている色(W[Z][itemL[j]-1])は異なるように作られており、従って8, 17行目はデータ独立なループと見なすことができ、並列化可能です。 一方で、7, 16行目は色の切り替えループであり、並列化できません。 カラーリングの仕組みから、例えば図3のピンクのデータを更新するためには、緑のデータが更新済みでなければならないわけですが、これは結局、X[i]を更新するためにはX[i-1]が更新済みでなくてはならないという、データ依存の関係と同じなのです。
図3:カラーリングによる並列化
(OpenMPによるマルチコア・メニィコア並列プログラミング入門より)
これらを考慮した上で、OpenACCの指示文を挿入したのが、図4になります。
こんな感じで、一つ一つのループについて並列化できるのかできないのか考えながら、徐々にOpenACC化を進めていきます。 OpenACC化ができた範囲についてはdata指示文で囲むことができます。 このようにして、OpenACC化を進めてはdata指示文の範囲を拡大していき、最終的にデータ転送をループの外側に追い出すわけです。
< 1ヵ月間有効のスパコンお試しアカウント >
東京大学情報基盤センターでは、教育の一環として、制限はあるものの一ヵ月の間有効なスパコンアカウントを提供しています。 現在3つのスパコンが運用されていますが、そのうちReedbushと呼ばれるスパコンには、一世代前のものではありますがGPUが搭載されていて、OpenACCを使える環境も整っています。 自分でどんどん自習したい場合は、ご利用を考えてみてください。 トライアルアカウント申し込みページ https://www.cc.u-tokyo.ac.jp/guide/trial/free_trial.php < 過去の講習会の資料やプログラム公開中 > 東大センターが行った過去のOpenACCに関する講習会の資料やプログラムも公開されていますので、自習する場合にはぜひご利用ください。 講習会ページ ※オンライン講習会 定期開催中! https://www.cc.u-tokyo.ac.jp/events/lectures/ 講習会で用いているプログラム https://www.dropbox.com/s/z4fmc4ibdggdi0y/openacc_samples.tar.gz?dl=0 |
著者東京大学 |