TensorFlow2 からTensorFlow Liteへのモデル変換

TensorFlow2で作ったモデルファイルをTensorFlow Lite形式に変換するメモ

TensorFlow Lite converterに従う

• SavedModelディレクトリやtf.kerasのmodelをtfliteに変換できるらしい
• pythonのAPIで変換する方法が推奨されてる
• CLIもある

python APIでコンバーター書く

Converter Python API guide

SavedModelの変換

converter = tf.lite.TFLiteConverter.from_saved_model("my_savedmodel")
tflite_model = converter.convert()
open("converted_model.tflite", "wb").write(tflite_model)

Keras modelの変換

# 事前にmy_modelオブジェクトを用意しておく

converter = tf.lite.TFLiteConverter.from_keras_model(my_model)
tflite_model = converter.convert()
open("converted_model.tflite", "wb").write(tflite_model)

CLI

$ tflite_convert --saved_model_dir=my_savedmodel --output_file=my_model.tflite

Kerasのmodelの場合は --saved_model_dir を --keras_model_file に置き換える

Quantizationやその他色々弄りたいならpython API使ってね、とのこと

toco?

tfliteへの変換についてWeb検索しているとtocoというcliツールが時々出てくるが、今はdeprecatedらしい