はじめに
生成AIの企業利用では、データ保護・監査・レジデンシー・ネットワーク分離などの要件を満たしつつ、最新モデルを安定運用することが鍵になります。本稿では AWS Bedrock／Azure OpenAI Service／Google Vertex AI を横断比較し、最新モデル（Claude 3.5 Sonnet、GPT-4o、Gemini 2.5 Pro）とバッチAPI・プライベート接続・RAG支援・ファインチューニングまで実装観点で整理します。
想定読者： 企業で導入検討・技術選定を行うエンジニア／意思決定者（中級〜上級）
対象読者
- ChatGPT APIからプライベートLLMへの移行を検討している開発者
- セキュリティ要件の厳しい環境でLLMを活用したいエンジニア
- クラウドベンダー選定の技術的根拠を求めている意思決定者
- RAGやファインチューニングを企業環境で実装したい方
- マルチクラウド戦略でLLMサービスを比較検討している方
この記事でわかること
- プライベートLLMの定義と主要な導入パターン
- AWS Bedrock、Azure OpenAI Service、Google Vertex AIの機能比較
- 各サービスの料金体系と実際のコスト試算方法（2025年9月最新）
- データプライバシー・コンプライアンス対応の違い
- モデルの種類と性能特性（Claude 3.5、GPT-4o、Gemini 2.5等）
- プライベート接続（PrivateLink、Private Endpoint、PSC）の設定方法
- ファインチューニングとRAGの実装難易度
- バッチ処理による50%コスト削減の活用方法
動作環境
- クラウドプラットフォーム: AWS / Azure / Google Cloud Platform
- API利用言語: Python 3.9+ / Node.js 18+ / Java 17+
- 必要な権限: 各クラウドサービスのIAMロール設定権限
- 課金注意: 各サービスとも従量課金制（無料枠あり）
- リージョン: 東京リージョン（asia-northeast1/ap-northeast-1/japaneast）推奨
全体像
アーキテクチャ概要
プライベート接続の仕組み
- AWS: PrivateLink（Interface VPC Endpoint）でBedrockへ非インターネット接続
- Azure: Private Endpoint（Azure Private Link）でAzure OpenAIへ接続
- GCP: Private Service Connect（PSC）でVertex AIへ接続
プライベートLLMとは
定義と特徴
プライベートLLMとは、企業が独自のセキュリティ要件下で利用できるLLMサービスの総称です。
主な特徴：
- データ不使用: 入力データはプロバイダーの基盤モデル再学習に使われない
- ネットワーク分離: VPC/VNet/PSC経由でプライベートに到達可能
- 監査・準拠: SOC/ISO/HIPAA等の枠組みで運用
- SLA保証: エンタープライズ向けの可用性保証
パブリックAPIとの違い
| 項目 | パブリックAPI（ChatGPT等） | プライベートLLM |
|---|---|---|
| データ利用 | プランにより異なる | 学習に使用されない |
| アクセス制御 | インターネット経由 | VPC内からのアクセス可 |
| 監査ログ | 限定的 | 詳細な監査証跡 |
| コスト | 月額固定/従量制 | 従量制が主流 |
| バッチ処理 | 一部対応 | 50%割引で提供 |
主要クラウドサービス比較
機能比較マトリクス（2025年9月時点）
| 機能 | AWS Bedrock | Azure OpenAI Service | Vertex AI |
|---|---|---|---|
| 利用可能モデル | Claude 3.5、Llama 3、Titan | GPT-4o、GPT-4o mini | Gemini 2.5 Pro/Flash、Claude（Partner） |
| 日本語対応 | ◎ | ◎ | ◎ |
| ファインチューニング | 一部モデル（Titan/Llama等） | GPT-4o mini等 | Gemini 2.5で教師ありFT対応 |
| RAG構築支援 | Knowledge Bases | On your data（AI Search連携） | Vertex AI Search/Agent Builder |
| プライベート接続 | PrivateLink | Private Endpoint | Private Service Connect |
| バッチ処理割引 | 50%オフ（公式明記） | 50%オフ（公式明記） | 50%オフ |
| ストリーミング | ◎ | ◎ | ◎ |
パフォーマンス指標
レイテンシは使用モデル・プロンプト長・リージョン・ネットワークで大きく変動するため、公式な代表値は示されていません。各社ともSLA・スループット保証で対応しています。
- AWS: Provisioned Throughputでキャパシティ確保
- Azure: PTU（Provisioned Throughput Units）で性能保証
- GCP: Provisioned Throughput（GSU）でキャパシティ管理
各サービスの詳細解説
AWS Bedrock
特徴
- 複数社モデルの統一APIで利用可能
- Knowledge Basesで簡単にRAGを構築
- PrivateLinkで閉域接続を実現
- Batch Inferenceでコスト50%削減（オンライン比）
利用可能モデル（2025年9月）
- Anthropic Claude 3.5 Sonnet（AWS公式価格表を参照）
- Meta Llama 3.1（405B/70B/8B）
- Mistral Large 2
- Amazon Titan Text/Embeddings
利用開始の流れ
- AWS ConsoleからBedrock有効化
- 利用したいモデルのアクセス申請
- IAMロール設定
- SDK/APIでの接続開始
メリット・デメリット
- ✅ モデルの選択肢が豊富
- ✅ AWSエコシステムとの親和性
- ✅ Knowledge Basesで簡単RAG構築
- ❌ 一部モデルは申請が必要
- ❌ ファインチューニング対応モデルが限定的
Azure OpenAI Service
特徴
- OpenAI社の最新モデルを企業向けに提供
- Batch APIで50%コスト削減（オンライン比）
- PTU（Provisioned Throughput Units）で性能保証
- On your dataでAzure AI Search連携
利用可能モデル（2025年9月）
- GPT-4o（参考: OpenAI API $5/1M入力、$15/1M出力相当）
- GPT-4o mini（参考: OpenAI API $0.15/1M入力、$0.6/1M出力相当）
- GPT-4 Turbo
- DALL-E 3、Whisper
※実際のAzure価格は公式価格ページで最新情報をご確認ください
利用開始の流れ
- Azure OpenAI Serviceの申請（審査あり）
- リソースグループ作成
- デプロイメント作成（モデル選択）
- エンドポイントとAPIキー取得
メリット・デメリット
- ✅ GPT-4o等の最新モデルへのアクセス
- ✅ Microsoft製品群との統合
- ✅ Batch APIで明確な50%割引
- ❌ 初回申請の審査期間（1-2週間）
- ❌ クォータ制限が厳しめ
Google Vertex AI
特徴
- Gemini 2.5シリーズが主力
- Partner ModelsでClaude系も利用可能
- Batch APIで50%割引
- Vertex AI Search/Agent Builderで統合RAG構築
利用可能モデル（2025年9月）
- Gemini 2.5 Pro（$1.25/1M入力、$10/1M出力）
- Gemini 2.5 Flash（$0.30/1M入力、$2.50/1M出力）
- Claude 3.5 Sonnet（Partner Models経由）
※派生SKUや提供状況はリージョン/時期で異なる場合あり
利用開始の流れ
- GCPプロジェクト作成
- Vertex AI API有効化
- サービスアカウント設定
- クライアントライブラリで接続
メリット・デメリット
- ✅ Googleの最新AI技術へのアクセス
- ✅ データ分析基盤との親和性
- ✅ 多様な価格帯のモデル選択肢
- ❌ 日本での事例がまだ少ない
- ❌ ドキュメントが英語中心
料金比較と試算
料金体系（2025年9月時点）
標準価格（オンライン推論）
| モデル | 入力料金 | 出力料金 | バッチ割引 |
|---|---|---|---|
| Claude 3.5 Sonnet (Bedrock) | AWS公式価格表を参照 | AWS公式価格表を参照 | 50% |
| GPT-4o (Azure OpenAI) | Azure公式価格表を参照 | Azure公式価格表を参照 | 50% |
| Gemini 2.5 Pro (Vertex AI) | $1.25/1M tokens | $10/1M tokens | 50% |
| Gemini 2.5 Flash (Vertex AI) | $0.30/1M tokens | $2.50/1M tokens | 50% |
※ 価格・提供モデル・提供リージョンは随時更新されます。最新情報は各社の公式ドキュメント/料金ページをご確認ください。
コスト試算例
ケース: 月間10万リクエスト、1件あたり入力500トークン・出力500トークン
- 総入力: 5,000万トークン
- 総出力: 5,000万トークン
オンライン推論とバッチ推論での料金差は各サービスとも約50%となります。実際の料金は利用するモデルと最新の価格表に基づいて算出してください。
セキュリティ・コンプライアンス
データプライバシー対応
各サービスとも以下を保証：
- データ不使用条項: 入力データのモデル学習への不使用
- データ暗号化: 転送時・保存時の暗号化
- データレジデンシー: 指定リージョン内でのデータ処理
認証取得状況
| 認証 | AWS | Azure | GCP |
|---|---|---|---|
| SOC 2 Type II | ◎ | ◎ | ◎ |
| ISO 27001 | ◎ | ◎ | ◎ |
| HIPAA | ◎ | ◎ | ◎ |
| FedRAMP | ◎ | ◎ | ○ |
| 金融FISC | ○ | ◎ | ○ |
ネットワークセキュリティ
- AWS: PrivateLink経由でインターネットを経由しない接続
- Azure: Private Endpointで仮想ネットワーク内から接続
- GCP: Private Service Connectでオンプレミスからも接続可能
導入時の落とし穴
よくある課題と対処法
1. レート制限への対処
- 課題: API呼び出し制限によるエラー
- 対処: リトライ処理の実装（指数バックオフ）、バッチ処理の活用（50%コスト削減も）、PTU/Provisioned Throughputの検討
2. コスト超過の防止
- 課題: 想定外の請求額
- 対処: 使用量アラート設定、バッチAPIの積極活用、小規模モデル（Flash/mini）との使い分け、コンテキストキャッシュの活用
3. モデル選定のミスマッチ
- 課題: 用途に適さないモデルの選択
- 対処: Pro/Flash/miniの性能×コスト比較、PoCで実際のタスクで評価、複数モデルの並行利用
4. セキュリティ設定不備
- 課題: 過度な権限付与
- 対処: 最小権限の原則、Private接続の利用、監査ログの定期レビュー
まとめと次のステップ
サービス選定の指針
- AWS Bedrock: AWS中心の基盤を持つ企業、複数モデルを統一APIで運用したい、Knowledge Basesで簡単にRAGを構築したい
- Azure OpenAI Service: Microsoft製品を活用している企業、GPT-4oシリーズが必須、Batch APIで明確にコスト削減したい
- Vertex AI: GCPデータ基盤を保有、価格重視（Gemini 2.5 Flash）、Partner Models経由でClaude系も使いたい
次のステップ
- 無料枠での検証: 各サービスの無料枠を活用したPoC実施
- 性能評価: 実際のユースケースでのベンチマーク測定
- バッチ処理の検証: 50%コスト削減の効果測定
- セキュリティ設計: Private接続の設定とテスト
- 運用設計: モニタリング・コスト管理体制の構築
参考リンク
免責事項: 本記事は当社が確認した時点の情報に基づく参考情報であり、正確性・完全性・最新性を保証せず、利用により生じたいかなる損害についても弊社は責任を負いません。