[LLVM]インストルメントを利用したPGO

PGO(Profile-Guided Optimization)¹はコンパイラにおけるフィードバック最適化の一つです。コードの実行時プロファイルをコンパイラにフィードバックして、リコンパイルすることで、より効果的な最適化ができるというものになります。
LLVMでは手法の異なるPGOが複数あるようです。この記事では、インストルメントを利用したPGOについて、特性を簡単に纏めてみます。記載する情報の多くは"The many faces of LLVM PGO and FDO"²を参考にしています。

インストルメントを利用したPGOの手順

インストルメントはコンパイルにおいて、実行バイナリの各ブロックに計測モジュールを埋め込むことで、実行プロファイルを取得するものです。
PGOでは以下のステップで最適化を行います。

1. インストルメントオプションを付けてソースをコンパイル
2. コンパイルした実行バイナリを実行（プロファイルが生成）
3. コンパイラにプロファイルを読み込ませて再度ソースをコンパイル

ここで、1, 3で指定するオプションにより、インストルメントを埋め込むフェーズや、適用されるPGO最適化が異なります。

Clang Front-end PGO

1のオプション: -fprofile-instr-generate
3のオプション: -fprofile-instr-use
Clangのフロントエンドで、ソースコードレベルでインストルメントが挿入されます。このインストルメントにより取得されたプロファイルは、デバック行情報を利用してコードへマッピングされることになります。このレベルでの情報（プロファイル）は、後続の最適化の影響（インライン化、アンロール、テール複製、CFGの簡略化など）を考慮できないため、プロファイルの精度損失が大きくなります。

IR PGO

1のオプション: -fprofile-generate
3のオプション: -fprofile-use
LLVM IRレベルでインストルメントが挿入されます。コンパイルの後半で挿入されるため、プロファイルの精度は落ちにくいという特徴があります。具体的には初期のインライン化のあとに行われるようです³。

CSIR PGO

1のオプション: -fcs-profile-generate
3のオプション: -fprofile-use
CSIR PGOのインストルメント挿入はIR PGOよりもさらに後段で行われます。具体的にはインライン化のあとのようです。これにより、プロファイルが複製コードの情報を持つことができるようになり、精度が向上します。CSIR PGOはIR PGOと併用することができるようです。⁴

1. https://clang.llvm.org/docs/UsersManual.html#profile-guided-optimization ↩

2. https://aaupov.github.io/blog/2023/07/09/pgo ↩

3. https://lpc.events/event/7/contributions/798/attachments/661/1214/LTO_PGO_and_AutoFDO_-_Plumbers_2020_-_Tolvanen_Wendling_Desaulniers.pdf ↩

4. https://github.com/llvm/llvm-project/issues/56274#issuecomment-1406427363 ↩