備忘録です。
状況
Numpyの loadtxtを使って文字列の配列を読み込んだ際に、一部の文字列が途中で切り捨てられた形になっていた。
例えば
short,short,...,longlonglonglonglong,... というような内容のファイルを
np.loadtxt("file", delimiter=",", dtype=str)のように読み込むと、longlonglonglonglongがlonglとして読み込まれていた。
解決法
loadtxtの引数dtypeに単なるstrではなくU20のように文字列の長さの上限を決めて指定するようにする。
要素数の少ないファイルで実験するとそもそも上記の状況が起こらなかった。（上記のような文字列の例だと読み込み後の配列は自動的にdtype='<U20'が設定されていた。）
恐らく、読み込む要素が多い場合には前のほうの要素だけから文字列長の上限を先に決めていて、後ろのほうで初めて長い文字列が登場した場合に上記のように切り捨てが発生するのだと思われる。