こちらのアップデートです。
Mosaic AIモデルサービングでGoogle Gemma 3 12Bが利用可能に
Google Gemma 3 12BがDatabricksがホストする基盤モデルとしてMosaic AIモデルサービングで利用できるようになりました。Mosaic AIモデルサービングでサポートされる基盤モデルをご覧ください。
公式ブログです。
マニュアルと画面でも確認できます。
主な特徴は本人に聞いてみました。
Gemma 3 12Bは、Googleが開発したオープンで軽量な大規模言語モデル（LLM）です。主な特徴は以下の通りです。
- 高いパフォーマンス:
- 120億パラメータ: 比較的コンパクトなモデルサイズでありながら、多くのタスクにおいて優れたパフォーマンスを発揮します。
- Gemini Proに基づいたアーキテクチャ: Googleの最先端モデルであるGemini Proのアーキテクチャを採用しており、高い言語理解力と生成能力を備えています。
- 多様なタスクに対応: テキスト生成、要約、翻訳、質問応答、コーディングなど、幅広いタスクに対応可能です。
- オープン性とアクセシビリティ:
- オープンウェイト: モデルの重みが公開されており、研究、開発、商用利用など、自由な目的で使用できます。
- 様々な環境で動作: CPU、GPU、クラウド、エッジデバイスなど、多様な環境で動作するように設計されています。
- Google Cloud上で利用可能: Google CloudのVertex AI上で簡単にデプロイして利用できます。
- 軽量性:
- 比較的小さなモデルサイズ: 他の大規模言語モデルと比較して、モデルサイズが小さいため、より少ない計算資源で動作させることができます。
- 高速な推論: 軽量なモデルサイズにより、高速な推論が可能です。
- その他:
- 商用利用可能: 安心して商用利用できます。
- 継続的なアップデート: Googleによる継続的なアップデートが期待できます。
ご活用ください！