How to Quickly Deploy, Test & Manage ML Models as REST Endpoints with Databricks - The Databricks Blogの翻訳です。

MLflowのモデルレジストリは、リアルタイムでの推論、ダッシュボード、そして、テスト、制御、自動化のためのコードスニペットを含むターンキーのモデルサービングを提供します。

DatabricksにおけるMLflowのモデルサービングは、機械学習(ML)モデルを自動的に更新されるRESTエンドポイントとしてホストするターンキーソリューションを提供します。これにより、データチームは、トレーニングから本格運用に至る、リアルタイムMLモデルのエンドツーエンドのライフサイクルを持つことができます。

サービス提供開始以来、多くのお客様が自身で追加のインフラを持ったり、追加の設定を行うことなしに、シーミングレスにMLモデルをRESTエンドポイントとして提供することが可能となりました。さらにモデルサービングをシンプルにするために、MLflowレジストリはモデルサービングのステータスと、モデルサービングページへのリンクを表示する様になりました。

MLflowモデルの利用をさらにシンプルにするために、モデルサービングページでは、モデルをリクエストするためのcurlやPythonのスニペットを表示する様にしました。リクエストはデプロイされている最新バージョン(例: model/clemens-windfarm-signature/Production)、あるいは特定のバージョン番号のモデル(例: model/clemens-windfarm-signature/2)に対して送信できます。

Databricksのお客様は、このモデルサービングの機能を、ダッシュボードにおけるモデル予測やファイナンスチームへの予測結果の提供などいくつかのユースケースで活用されています。Freeport McMoRanは、プラントのオペレーションをシミュレートするためにTensorFlowのモデルをサービングしています：

"我々はプラントのオペレーションを最適化し、コストを削減するために、プラントにおける複数の異なるシナリオをシミュレーションし、意思決定するためのレコメンデーションをリアルタイムでレビューする必要があります。DatabricksのMLflowモデルサービングによって、エンドツーエンドのモデルライフサイクルを維持しながら、低いレイテンシーで機械学習から得られる示唆をオペレーターに対してシーミングレスに提供できる様になりました。"

DatabricksのModel Servingは現在(2020/11)パブリックプレビューです。そして、コスト効率が高く、管理容易性のためのMLflowモデルレジストリと密接に統合されており、リアルタイム予測のために、ワンクリックでのデプロイメントを可能にするものです。利用を開始する際にはこちらのドキュメントを参照ください[AWS, Azure]。本サービスは現在プレビュー中ですが、比較的ミッションクリティカルではなく、高いスループットが求められないアプリケーションで使い始められることをお勧めします。

Databricks 無料トライアル

Databricks 無料トライアル