はじめに
「SAP AI Core技術連載」第1回。
SAP AI Coreの位置づけと料金体系を扱う。次回(#2)はコンセプト(アーキテクチャ詳細・AI API・リソースグループ)を扱う。
SAP AI Coreとは
SAP AI Coreは、SAP Business Technology Platform(SAP BTP)上のサービスである。
AIアセットの実行・運用を、標準化・スケーラブル・ハイパースケーラー非依存な形で管理する。SAP製品とシームレスに統合され、オープンソースフレームワークで任意のAI機能を実装できる。
AIシナリオのフルライフサイクル管理をサポートする。Generative AI Hub経由で、生成AI機能とプロンプトのライフサイクル管理にアクセスできる。Argo WorkflowsやKServeとも統合される。
主要機能
- Generative AI Hub:生成AIモデル選択によるプロンプト実験・ライフサイクル管理
- パイプライン実行:前処理・学習・バッチ推論のバッチジョブ実行
- 推論配信:学習済みモデルのWebサービス化・高パフォーマンス応答
- AIシナリオライフサイクル管理:学習・メトリクス・デプロイを統一APIで管理
- マルチテナンシー対応:テナントごとにAIアセット・実行を分離
- クラウドインフラ統合:Docker/Git/オブジェクトストア連携、BTPマーケットプレイスへのサービス公開
対応環境
- Cloud Foundry
- Kyma
- Kubernetes
アーキテクチャ概要
SAP AI Coreは、SAP AI Launchpad・AI APIと連携する3コンポーネント構成である。
- SAP AI Core:AIワークフローとモデルサービングの実行エンジン
- SAP AI Launchpad:複数AIランタイムを管理するマルチテナントSaaS
- AI API:SAP技術・パートナー技術を問わずAIシナリオのライフサイクルを管理する標準API
SAP AI Core以外のランタイムにデプロイする場合は、ランタイムアダプターが必要になる。
公式アーキテクチャ図の構成
- 各ペルソナ(ML Ops・ビジネスアナリスト・プロンプトエンジニア・AI Core管理者)がSAP AI Launchpadを経由する
- AI APIとの接続を仲介する「AI API Connector」、利用範囲を区切る「Workspaces」を通る
- SAP AI Core本体(Main Tenant配下のResource Groups)へ接続する
主な連携先
- Docker/Gitリポジトリ
- ハイパースケーラーストレージ
- KServing
- Kubernetes(リソースグループ分離はK8s namespace単位)
マルチテナンシーをサポートする。
1.1 料金体系
従量課金制で、使用リソース分のみ支払う。
プランはFree・Standard・Extendedの3種類。全機能利用にはExtendedを推奨。
モデルオプションは2種類:
- 生成AI:SAP提供・リモート基盤モデル、grounding等のパイプライン
- 予測AI:カスタムモデル
カスタムAIモデルはコンピュート・ストレージ・ベースラインのコストが発生する。ベースライン課金は最大730時間まで、自動的に毎時適用される。
基盤モデル・groundingを使う場合はこれらのコストが免除される。代わりに、トークン数に基づき課金される。
消費情報はBTPコックピットのグローバルアカウント「Usage」から、AI Coreでフィルタしてエクスポートできる。
1.1.1 生成AIの料金
利用はトークン単位で計測される。モデルごとに異なる換算率で、「GenAIトークン」という仮想単位に変換される。
Note: Generative AI HubはExtendedプランでのみ利用可能
入出力トークンの比率はユースケース依存である。要約は入力:出力≈3:1〜4:1程度。説明生成・長文作成は、逆に出力が入力を上回る。
課金単位は「キャパシティユニット(CU)」。GenAIトークンに変換係数を適用して算出する。出力トークンは入力よりやや高価。変換率の詳細はSAP Note 3437766参照。
公式の試算例(架空値・月25,000リクエスト・入力3,500/出力300トークン)
- GenAIトークン変換とCU係数(1.90385)を用いた計算により、LLM呼び出し分232.25 CUを算出
- RAGパイプラインではこれに加え、Grounding・Content Filtering・Data Maskingのコストが186.3 CU加算
- 総消費量は418.55 CU
画像入力(Mistral Small Instructの場合)は、14×14ピクセル単位でトークン化される(解像度X/14 × 解像度Y/14)。
典型消費パターンとして、以下5ユースケースごとに入出力トークン数と月間リクエスト数(小/中/大)の目安が示されている。
- RAG Chat
- Basic Chat
- Summarization
- Classification
- Generation
見積もりにはSAP AI Core Cost Calculatorの利用が推奨される。
1.1.2 予測AIの料金
カスタムAIワークロードは、3リソースタイプで課金される。
- コンピュート(Node hour)
- ストレージ(Gigabyte hour)
- ベースライン(Tenant hour)
インスタンスはStarter/Basicなど汎用タイプに加え、推論向けのInfer-S・M・L、学習向けのTrain-L(advanced GPU)まで複数ある。GPU搭載タイプほど単価が高い。仕様は選択するハイパースケーラーにより異なる。
コンピュート・ストレージいずれか使用で、ベースライン課金が最大730時間まで自動適用される。複数ノード並列処理時はノード時間で計算される(例:2ノードで1時間処理=2ノード時間)。ただしベースライン課金は1時間分のみ発生する。
公式の試算例(架空値)
- Basic/Infer-M両インスタンスの合計:272.2 CU
- ストレージ:1.5 CU
- ベースライン:489.64 CU
CUはBTP Discovery Center Estimatorで金額換算できる。
まとめ
- SAP AI CoreはBTP上でAIワークロードを管理するサービスで、AI Launchpad・AI APIと連携する
- 対応環境はCloud Foundry・Kyma・Kubernetesの3つ
- 料金プランはFree/Standard/Extendedで、全機能利用にはExtendedが推奨
- 生成AIはGenAIトークン→CU変換で課金。Groundingなどのオーケストレーションモジュール分も別途加算される
- 予測AIはCompute/Storage/Baselineの3要素で課金。インスタンスタイプでCU単価が異なる
- 本記事の料金試算例は公式ドキュメント記載の架空値。CU単価は契約条件・リージョン等で変動しうるため、実際の見積もりは必ずSAP AI Core Cost CalculatorまたはSAP営業窓口で確認すること
- 次回(#2)はコンセプト(アーキテクチャ詳細・AI API・リソースグループ)を扱う
用語解説
- SAP AI Core:BTP上でAIアセットの実行・運用を管理するサービス
- SAP AI Launchpad:複数AIランタイムのAIユースケースを管理するマルチテナントSaaS
- AI API:異なるランタイム上でAIシナリオのライフサイクルを管理する標準API
- GenAIトークン:モデル横断で生成AI消費量を表す仮想単位
- キャパシティユニット(CU):BTPの課金メトリック。各種消費量から変換係数を用いて算出
- Grounding:RAGパイプラインで関連文書の格納・検索を行うオーケストレーションモジュール