Oracle Cloue Infrastructure (OCI) のAIサービスまとめ

Posted at 2025-03-16

事前学習済みモデルを提供するAIサービス

OCI Language
- テキストを渡すと分析してくれる
  - 感情分析（顧客からのメールを元にネガティブな感情なのか判断する等）
  - カテゴリ分類（英語のみ）
  - 翻訳など（WordやPowerPointのファイルも翻訳してくれる）
OCI Speech
- テキストを渡すと音声に変換
- 音声を渡すとテキストに変換(いわゆる文字起こし)
- OCIの音声モデルか、OpenAIのWhisperモデルが使用可能
  - OCIの音声モデルは日本語非対応
  - Whisperモデルは日本語対応だが、リアルタイム非対応
OCI Vision
- 画像を渡すと分析してくれる（画像に写っているものを教えてくれたり、分類してくれたりする）
OCI Document Understanding
- 画像のテキスト化をしてくれたり(OCR)、ドキュメントの分類、表の抽出をしてくれる
Oracle Digital Assistant
- チャットボットを提供

OCI Data Science
- 機械学習に必要な製品（Jupyter NotebookやMLライブラリ、Pythonモジュール等）を組み合わせて提供してくれるPaaSサービス
OCI Data Labeling
- 機械学習の最初の段階で実施する生データへのラベル付けをおこなうサービス
- AWSでは「SageMaker Ground Truth」が類似サービス

AI Vector Search (Oracle Database)
- Oracle Database 23aiの機能
- Oracle Database内にRAGで必要なベクトル変換、ベクトルデータ保持、ベクトル検索等の機能を導入
  - ベクトルデータをテーブルに保持するためのVECTORデータ型の導入
    - データ型の追加なので、DBとしてのアーキテクチャは大きく変わらない。RACやPartitionなども利用可能
  - データをベクトル化するためのDBMS_VECTOR_CHAINパッケージが導入
  - SQLを利用してベクトル検索がおこなえる（VECTOR_DISTANCE関数等の導入）
  - ベクトル索引の導入
    - 専用メモリ領域Vector Poolの導入
HeatWave GenAI (MySQL)
- 2024年6月提供開始
  - HeatWave自体は2020年頃にリリースされた、データ分析/集計に適した列指向・インメモリのクエリアクセラレータ
- DB内にLLMを保持
- 組み込みモデルを利用してDB内にベクトルストアを作成可能し、RAGで利用可能
  - ベクトル処理(Embed)やベクトルストア作成処理は自動化されている
- DB内、もしくは外部LLMを使用して自然言語検索が可能
- HeatWaveの機能によりベクトル処理を高速化（最大512ノードによる並列化）
- OCI Generative AI、Amazon Bedrockとも連携可能

OCI Generative AI
- エンタープライズ・クラスのセキュリティをもった生成AIサービス
  - 入力データや学習データがLLMプロバイダーと共有されたり、他の契約者に漏れることはない
  - 入力テキストはOCIには保存されない
- Cohere社、Meta社のモデルを提供
- 専用AIクラスターを利用してファインチューニング可能
- Webベースのテキスト生成やEmbedのインタフェースを提供
OCI Generative AI Agents
- 2024年9月提供開始。現時点ではシカゴリージョンのみ利用可能
- Generative AIサービスと、その他のサービスとのオーケストレーションをPaaSとして提供
- RAGエージェントを提供し、すぐにRAG機能を利用可能
- ナレッジベース（生成AIの検索先）として、Object Storage、23aiのOracle AIベクトル検索、OCI OpenSearchを指定可能
- チャットインタフェースを提供
Oracle Code Assist
- コード生成AIサービス（類似サービス：Github Copilot）
- ベータ版提供中
- Java、SuiteScript、PL/SQLに最適化