SageMakerのデプロイオプション

SageMaker では、ユースケースに応じて、次の方法でモデルをデプロイできます。

バッチ変換

大量のデータを一括処理するオフライン推論です。

サーバレス推論

断続的または予測不可能なトラフィックパターンがある場合に最適です。

リアルタイム推論

低レイテンシーかつ高スループットが要求されるオンライン推論に最適です。

非同期推論

• 大きなペイロードサイズと長時間の処理: 最大1GBのペイロードと、最大1時間の処理時間に対応可能です。
• コスト効率: 処理するリクエストがない場合、インスタンス数をゼロにオートスケーリングすることでコストを節約できます。