Factored kernelsを使った簡単な実験
前回の内容を踏まえて、Factored kernelsのご利益を検証してみました。
ドキュメントでFactored kernelsの例としてGaussian kernelsが引き合いに出されていましたが、Kernelモジュールは2次元配列をそのまま返してしまいますので、KernelFactorsモジュールを使って比較します。なお、どちらもImageFilteringパッケージに含まれています。
実験に使ったスクリプトはこちら
前準備
テスト画像とベンチマーク計測用の関数を用意しておきます。関数filteringとfiltering!はそれぞれimfilterとimfilter!用です。
using Images, TestImages, ImageFiltering
using BenchmarkTools
println("nthreads = $(Threads.nthreads())")
img = testimage("")
function filtering(img, kernel)
imfilter(img, kernel) # precompile
bm = @benchmark imfilter(img, kernel)
display("text/plain", bm)
println("")
end
function filtering!(out, img, kernel)
imfilter!(out, img, kernel) # precompile
bm = @benchmark imfilter!(out, img, kernel)
display("text/plain", bm)
println("")
end
パフォーマンスの比較
Gaussian blurを題材に、Kernel, KernelFactorsとPython+OpenCVを比べてみます。
Kernelモジュールの場合
まず、2次元のGaussianカーネルを準備します。カーネルサイズは13x13です。
# Kernel module ver.
kernel = Kernel.gaussian((3, 3))
これを使ってimfilterとimfilter!のベンチマークを取ってみます。なお、下記の結果はexport JULIA_NUM_THREADS=1とした状態です。
julia> filtering(img, kernel)
BenchmarkTools.Trial:
memory estimate: 4.14 MiB
allocs estimate: 309
--------------
minimum time: 12.670 ms (0.00% GC)
median time: 13.316 ms (0.00% GC)
mean time: 13.907 ms (4.15% GC)
maximum time: 72.896 ms (78.81% GC)
--------------
samples: 359
evals/sample: 1
julia> out = similar(img)
julia> filtering!(out, img, kernel)
BenchmarkTools.Trial:
memory estimate: 413.09 KiB
allocs estimate: 119
--------------
minimum time: 13.554 ms (0.00% GC)
median time: 14.015 ms (0.00% GC)
mean time: 14.413 ms (1.58% GC)
maximum time: 73.900 ms (79.41% GC)
--------------
samples: 347
evals/sample: 1
どちらも約14ms程度でした。これは遅い。
KernelFactorsモジュールの場合
前回の記事で紹介したFactored kernelの特性を利用した方法で計算させてみます。KernelモジュールをKernelFactorsに切り替えるだけで、あとは先程と同じです。
## KernelFactors module ver.
kernel = KernelFactors.gaussian((3, 3))
先ほどと同じようにベンチマークを取ってみます。なお、下記の結果もexport JULIA_NUM_THREADS=1とした状態です。
julia> filtering(img, kernel)
BenchmarkTools.Trial:
memory estimate: 4.13 MiB
allocs estimate: 292
--------------
minimum time: 9.564 ms (0.00% GC)
median time: 10.171 ms (0.00% GC)
mean time: 10.691 ms (5.07% GC)
maximum time: 73.211 ms (83.50% GC)
--------------
samples: 467
evals/sample: 1
julia> out = similar(img)
julia> filtering!(out, img, kernel)
BenchmarkTools.Trial:
memory estimate: 398.23 KiB
allocs estimate: 102
--------------
minimum time: 10.450 ms (0.00% GC)
median time: 10.801 ms (0.00% GC)
mean time: 11.042 ms (1.67% GC)
maximum time: 71.028 ms (82.64% GC)
--------------
samples: 453
evals/sample: 1
4ms程度速くなりましたが、まだまだ遅く感じます。
Python + OpenCVの場合
ここで、比較対象としてOpenCVがどの程度か確認してみます。
In [1]: import cv2
In [2]: img = cv2.imread("cameraman.png")
In [6]: %%timeit
...: cv2.GaussianBlur(img, (13, 13), 3)
...:
1.53 ms ± 215 µs per loop (mean ± std. dev. of 7 runs, 1000 loops each)
- Python 3.7.0
- opencv-python v3.4.2
ちょっとしたチューニング
上記の結果は少し期待はずれだったのですが、上記の実験ではどうもCPUを使い切れていないようでした。そこで、Juliaが使えるスレッド数を増やしてパフォーマンスの変換を観察してみます。
やり方は、
- 今までの実験を一つのスクリプトとして保存しておきます
-
export JULIA_NUM_THREADS=n(n=1~4)とする - 先程のスクリプトを実行
この結果のサマリは次のようになりました。なお、imfilterとimfilter!の速度はほぼ同じだったので、以降ではimfilter!の結果のみを示します。また、各スレッド数のベンチマークは@benchmarkのmean timeのみを示します。
Kernelモジュールとimfilter!
スレッドを増やすとパフォーマンスが落ちてしまいました。
| nthreads | Benchmark |
|---|---|
| 1 | 14.413 |
| 2 | 27.138 |
| 3 | 27.249 |
| 4 | 24.990 |
KernelFactorsモジュールとimfilter!
スレッド数2で頭打ちでした。
| nthreads | Benchmark |
|---|---|
| 1 | 11.042 |
| 2 | 5.211 |
| 3 | 5.812 |
| 4 | 5.394 |
以上をまとめたのが次のグラフです。スレッド数が1か2以上でパフォーマンスが大きく変わってしまうみたいですね。
あとがき
- Kernelのバージョンでスレッド数を増やすと、なんでこんなにパフォーマンス落ちたんでしょう。
- アルゴリズムの改良は大事ですね。
- OpenCV速いですね。
実行環境
_
_ _ _(_)_ | Documentation: https://docs.julialang.org
(_) | (_) (_) |
_ _ _| |_ __ _ | Type "?" for help, "]?" for Pkg help.
| | | | | | |/ _` | |
| | |_| | | | (_| | | Version 1.0.0 (2018-08-08)
_/ |\__'_|_|_|\__'_| | Official https://julialang.org/ release
|__/ |
julia> versioninfo()
Julia Version 1.0.0
Commit 5d4eaca0c9 (2018-08-08 20:58 UTC)
Platform Info:
OS: macOS (x86_64-apple-darwin14.5.0)
CPU: Intel(R) Core(TM) i5-6360U CPU @ 2.00GHz
WORD_SIZE: 64
LIBM: libopenlibm
LLVM: libLLVM-6.0.0 (ORCJIT, skylake)