Ollama カスタムモデルの作成

はじめに

ローカルLLMを利用できるOllamaに、UI機能が追加されました。
今回はUI機能の紹介ではなく、カスタムモデルを作成する方法についてまとめます。

記事作成に利用した環境

fastfetchから取得した情報 ¹

• MacBook Pro (14-inch, 2021)
• OS: macOS Sequoia 15.6 arm64
• CPU: Apple M1 Pro (8) @ 3.23 GHz
• GPU: Apple M1 Pro (14) @ 1.30 GHz [Integrated]
• Memory: 12.02 GiB / 16.00 GiB (75%)

事前準備

• インストールしたい環境に適したOllamaをDownload Ollamaからダウンロードします
• 今回はgemma3nを元に作成するので
  • ollama pull gemma3nを実行して、モデルをローカルにダウンロードします(7.5 GB)
• インストールしたモデルをollama listで確認します

  % ollama list
  NAME
  gemma3n:latest
  

カスタマイズモデルの作成

• Modelfileという名前で指定してエディタで編集

• 例として先ほどのgemma3nをベースに、以下のプロンプトを用意します

  FROM gemma3n:latest
  SYSTEM """
  あなたは、ソフトウェア開発の専門家です。
  あなたの役割は、ソフトウェア開発に関する質問に答えたり、コードの改善点を提案したりすることです。
  """
  

• ファイルからカスタムモデルを作成します(programA1という名称で作成)

  % ollama create programA1 -f ./Modelfile
  gathering model components
  using existing layer sha256:38e8dcc30df4eb0e29eaf5c74ba6ce3f2cd66badad50768fc14362acfb8b8cb6
  using existing layer sha256:e0a42594d802e5d31cdc786deb4823edb8adff66094d49de8fffe976d753e348
  using existing layer sha256:1adbfec9dcf025cbf301c072f3847527468dcfa399da7491ee4a1c9e9f1b33e9
  creating new layer sha256:c469edd6da60847de54c0674a064943621acc371e055d6323628235a39633a0b
  writing manifest
  success
  

• 作成されたモデルがあるか確認します

  % ollama list
  NAME
  programA1:latest
  gemma3n:latest
  

• メニューから"Open Ollama"を選択してGUI機能を呼び出します
  

• programA1モデルを指定します
  

• 「何ができますか」とリクエストする以下の結果が得られました
  

• 今度は、"テスト駆動開発とは"をリクエストしました ²
  

• 元のモデルの性能が良いため、期待通りの回答が得られたと感じます

Modelfileの主な命令 ³

• FROM
  • 使用する基本モデルを定義
• SYSTEM
  • テンプレートに設定されるシステム メッセージを指定
• PARAMETER
  • Ollama がモデルを実行する方法のパラメータを設定
  • 指定内容はまだ検証していません
• MESSAGE
  • メッセージ履歴を指定
  • 指定内容はまだ検証していません

懸念点

• 現在では、CUIでカスタモデルを作成の依頼が必要

参考資料

• Ollama が独自のアプリをリリースしました（完全チュートリアル）

1. brew install fastfetchでインストール ↩

2. iStatistica CoreでGPU等の状態を確認しました ⁴ ↩

3. Ollama Model File ↩

4. iStatistica Core ↩