動作環境
GeForce GTX 1070 (8GB)
ASRock Z170M Pro4S [Intel Z170chipset]
Ubuntu 16.04 LTS desktop amd64
TensorFlow v1.2.1
cuDNN v5.1 for Linux
CUDA v8.0
Python 3.5.2
IPython 6.0.0 -- An enhanced Interactive Python.
gcc (Ubuntu 5.4.0-6ubuntu1~16.04.4) 5.4.0 20160609
GNU bash, version 4.3.48(1)-release (x86_64-pc-linux-gnu)
TensorFlow > TFRecords > Queue and Threadsでの読込み > 読込みを進めるに連れ、読込み時間が増加する > 犯人はnp.append()
においてnp.append()を繰返すにつれ、処理時間が増加していく状態である。
np.append()を使わない方法として以下が考えられる。
- ファイル出力 (or 標準出力のリダイレクト)
- 逐次的なmean, stddev計算
- np.append()でなくPython listを使う
2に関しては、以下を見つけた。
https://www.johndcook.com/blog/standard_deviation/
1の方が簡単そう。
と思ったが3でもいいかもしれない。