Help us understand the problem. What is going on with this article?

Benchmark/Profiling/Optimization(a little)

More than 1 year has passed since last update.

Benchmark/Profiling/Optimization(a little)

by kubo39
1 / 27

Benchmark/Profiling/Optimization(a little)

  • D言語で速いコードを書くための準備

benchmark

  • 推測するな、計測せよ
    • profilingのとこでも触れますが
  • benchmarkはエビデンス
    • 提案がほんとに効果あるかとか
    • パフォーマンスに影響があるorないの証明とか
  • ツールうんぬんよりもいろいろなパターンでとるのが大事

std.datetime.benchmark

  • std.datetimeにはbenchmark関数以外もあるけど、まあお好みで
    • 表示が弱い(だめじゃんね…)
  • なんでstd.datetime...?
    auto results = benchmark!(makeSlice, makeSliceOpt)(100);
    foreach (r; results)
        r.to!Duration.writeln;
/*
$ shibuyad-talk% rdmd benchmark1.d
74 ms, 173 μs, and 9 hnsec
41 ms, 427 μs, and 2 hnsec
*/

CPU profiling

  • 推測するな、計測せよ
    • どうやってボトルネックみつけるか
    • 勘とか、知識とかまあ悪くはないけど
      • 実は最適化してくれてるとかコードみただけでわかります?
      • けっきょくボトルネックじゃないかもしれない

Tools

  • dmd -profile
  • perf
  • callgrind / cachegrind

dmd -profile

  • dmd -profile
    • QueryPerformanceCounter (Windows)
    • rdtsc (Other OSs, x86/x86_64)
$ dmd -g -profile dmdprofile.d
$ cat trace.log
  • ここがいい: D言語のruntime側でhookしてるので余計な情報が入らない、使うの簡単
  • ここがだめ: D関係ないとこはとれない(runtimeをskipするとだめ)、とれるプラットフォームは限定的

perf (1)

  • Performance Counter (CPU_CLK_UNHALTED) + ftraceなsampling profiler
    • ftraceでカーネルの関数とかにもフック
    • msrレジスタが〜とか書こうと思ったけどめんどくさくなった
  • rdtscと比べると低消費電力モードの影響を受けない
  • 総instruction数、L1/L2キャッシュヒット率とかもわかる
# perf record dmdprofile
# perf report
... # なんかでる
  • ここがいい: 使うの簡単、かなりいろいろとれる
  • ここがだめ: 使えるのはLinuxのみ、root権限が必要
    • まあ*BSDならDTraceでしょ、という

callgrind/cachegrind

  • valgrind tool
    • callgrind: callstack ratio
      • 何回呼び出されるか、全体の割合でどのくらいかとか
    • cachegrind: キャッシュ
  • LinuxではDWARFの情報読む
  • OSXでも動いてくれる
% valgrind --tool=callgrind ./dmdprofile
==25424== Callgrind, a call-graph generating cache profiler
==25424== Copyright (C) 2002-2013, and GNU GPL'd, by Josef Weidendorfer et al.
==25424== Using Valgrind-3.10.0 and LibVEX; rerun with -h for copyright info
==25424== Command: ./dmdprofile
==25424==
==25424== For interactive control, run 'callgrind_control -h'.
==25424==
==25424== Events    : Ir
==25424== Collected : 682915
==25424==
==25424== I   refs:      682,915
% callfring_annoate callgrind.out.25424
... # なんかいっぱいでる
  • ここがいい: プラットフォームの差異は吸収、使うのも難しくはない
  • ここがだめ: めちゃくちゃ遅い、実行時profilingなんてもってのほか

他にもいろいろある

  • oproifle
    • 昔は割り込み式だったけど今はperfと同じかんじに動く
  • Google CPU Profiler
    • C/C++向けのSampling Profiler
    • pprof(Go)とかstackprof(Ruby)とかに影響
    • 本番環境でもprofilingできるのが嬉しい

まあ長くなりすぎるので…


所感

  • profilerは得意・不得意なものがあったりする
  • 基本使いやすいさで選べば良い
  • ユースケースも考えよう
    • 本番環境で計測をとることは大事
  • Visualizeもあるとなおよし
    • flamegraph / kCacheGrind / etc...

Memory Profiling


GC Configuration

  • 最近は実行時にGC向けのConfigを喰わせられるように

http://dlang.org/spec/garbage.html

  • stats
 $ ./gctuning "--DRT-gcopt=profile:2"
        Number of collections:  5
        Total GC prep time:  0 milliseconds
        Total mark time:  1 milliseconds
        Total sweep time:  0 milliseconds
        Total page recovery time:  0 milliseconds
        Max Pause Time:  0 milliseconds
        Grand total GC time:  1 milliseconds
GC summary:  268 MB,    5 GC    1 ms, Pauses    1 ms <    0 ms

OS/libc

  • 生でさわることも簡単にできる

    • mallinfo(3) (Linux/Glibc)
    • proc/[PID]/statm (Linux)
  • 基本後述のresusage使うったほうがよい

    • 事情もある
    • shared libraryだとruntimeは邪魔

  • libcは楽に触れる
    • Cとの連携の楽さ
extern(C) {
    struct mallinfo_ {
        ...
    }
    mallinfo_ mallinfo();
}

DUB Package

  • resusage
    • わりとポータブル(Windows/Linux/FreeBSD)
    • よほど事情がない限り自前で書く必要はない

所感

  • CPUに比べると軽視されがちだけど
    • できればちゃんととっとく
  • Memory Leaksはvalgrindとか使おう

performance

  • GC Tuning
  • memcpy(3)

GC

ガベージコレクション

モダンなGCは、過去の遅いものより遙かに発展しています。 世代型のコピーGCには、 昔のマーク&スイープアルゴリズムの非効率さはありません。
モダンなGCはヒープの詰め直しを行います。 これによってプログラムが活発に参照するページの数を減らし、 キャッシュヒット率を高め、 スワッップ回数が減ります。


そんなうまいはなしはなかった。。

  • Mark and Sweep / Stop The World
  • concurrentとかcopyingとかgenerationalとかない

オリジナルから文言が消えてる! http://dlang.org/spec/garbage.html


conservative GC

  • いわゆる保守的GC
    • ポインタっぽいやつだったらmarkしとこw
  • オブジェクトサイズによってPoolを用意
    • SmallObjectPool(<=2Kのオブジェクト) / LargeObjectPool(>2K)
      • Page単位になるように(ページサイズ=4K)
    • デブは電車に乗るな
    • 複数のPoolを配列で管理

GC Tuning parameters

  • 詳しいユースケースの解説はない
    • 自分で試すしかない
    • GC実装の知識を要求するのでよくないデザイン
initReserve:N - initial memory to reserve in MB
minPoolSize:N - initial and minimum pool size in MB
maxPoolSize:N - maximum pool size in MB
incPoolSize:N - pool size increment MB
heapSizeFactor:N - targeted heap size to used memory ratio
  • 各自がんばってくれ…

そのほかできること

  • それほど思いつかない...
  • Out-of-Band GCはvibe.dには悪手
    • 効果ない上に全体のスループットは劣化
  • jemalloc/tcmalloc試すとか?
    • でもpoolの仕組みはすでにあるしな...
    • LargeObjectPoolのfragmentには効果なさそう

Manual GC

  • GC Configで切り替え可能

$ ./gctuning "--DRT-gc:manual gcopt=profile:2"

  • 薄いインターフェースとメモリエラー処理だけ提供
    • 自前で頑張る人向け
    • 各自(ry

memcpy(3)

  • コピー減らすのは常套手段
    • string連結とかしないでstd.array.appender使うとか

所感

  • 用途にもよるしいろいろ試してみるしかない
    • GCのパラメータとか
    • 自前でGC組むとか
  • 基本は言語非依存な知識でいける
    • まずデータ構造・アルゴリズムを見直す
    • システムコール発行回数減らす
    • メモリコピーを減らす
    • キャッシュレイヤやページサイズを意識
  • その上でしっかり計測する

おしまい

Any Questions?

Why do not you register as a user and use Qiita more conveniently?
  1. We will deliver articles that match you
    By following users and tags, you can catch up information on technical fields that you are interested in as a whole
  2. you can read useful information later efficiently
    By "stocking" the articles you like, you can search right away
Comments
Sign up for free and join this conversation.
If you already have a Qiita account
Why do not you register as a user and use Qiita more conveniently?
You need to log in to use this function. Qiita can be used more conveniently after logging in.
You seem to be reading articles frequently this month. Qiita can be used more conveniently after logging in.
  1. We will deliver articles that match you
    By following users and tags, you can catch up information on technical fields that you are interested in as a whole
  2. you can read useful information later efficiently
    By "stocking" the articles you like, you can search right away