Mac MシリーズでローカルLLMを動かすなら Ollama / mlx-lm / vllm-mlx のどれを使うべきか

はじめに

Mac Mシリーズ、つまり Apple Silicon 上でローカルLLMを動かす場合、まず候補に上がるのは Ollama です。

ただ最近は、Apple Silicon 向けに最適化された MLX 系の選択肢も増えています。さらに Ollama 自身も Apple Silicon 向けに MLX バックエンドのプレビューを公開しています。(Ollama)

この記事では、Mac MシリーズでローカルLLMを動かすときに見るべき選択肢を、以下の3つに絞って整理します。

• Ollama
• mlx-lm
• vllm-mlx

1. 結論

最初に結論です。

目的	おすすめ
とにかく簡単に始めたい	Ollama
Python から Apple Silicon ネイティブに扱いたい	mlx-lm
ローカル推論サーバーとして使いたい	vllm-mlx

イメージとしては、以下です。

Ollama   = 入口として一番楽
mlx-lm   = MLX を直接使う開発者向け
vllm-mlx = Mac をローカルLLMサーバー化したい人向け

ローカルLLMを試すだけなら、まずは Ollama で十分です。
性能検証、fine-tuning、Python 組み込み、API サーバー用途まで考えるなら、mlx-lm や vllm-mlx も比較対象になります。

2. 比較表

項目	Ollama	mlx-lm	vllm-mlx
位置づけ	ローカルLLM実行ツール	MLX ベースの Python パッケージ	Apple Silicon 向け vLLM 風サーバー
主な用途	手軽な実行、モデル管理、ローカルAPI	推論、量子化、LoRA / fine-tuning	OpenAI / Anthropic 互換API
使いやすさ	高い	中級者向け	中〜上級者向け
Apple Silicon 最適化	MLX プレビューあり	MLX ネイティブ	MLX ネイティブ
向いている人	まず動かしたい人	MLX を直接使いたい人	Mac を推論サーバーにしたい人

3. Ollama

Ollama は、ローカルLLMを簡単に動かすためのツールです。

ollama run <model-name>

一番の強みは 導入の簡単さ です。モデルの取得、実行、ローカルAPI化までをシンプルに扱えます。Open WebUI、Continue、Aider、Claude Code 系のローカルワークフローとも組み合わせやすいです。

また、2026年時点では Ollama 自身も Apple Silicon 向けに MLX バックエンドをプレビューしています。公式ブログでは、Ollama 0.19 の Apple Silicon 向け実行で MLX を利用し、Qwen3.5-35B-A3B の比較結果も紹介されています。(Ollama)

ただし、公式比較では量子化形式も変わっているため、単純に「MLX だけで何倍速くなった」と読むのは危険です。

Ollama は、まずローカルLLMを試したい人の入口として非常に強い選択肢です。一方で、MLX を直接制御したい場合や fine-tuning までやりたい場合は、mlx-lm のほうが向いています。

4. mlx-lm

mlx-lm は、Apple の MLX 上で LLM を動かすための Python パッケージです。公式 README では、テキスト生成、Hugging Face Hub 連携、量子化、LoRA、full fine-tuning、量子化モデルでの fine-tuning などが説明されています。(GitHub)

pip install mlx-lm
mlx_lm.generate --prompt "How tall is Mt Everest?"

Ollama が「簡単にモデルを動かすためのツール」だとすると、mlx-lm は「Apple Silicon 上で MLX を直接使って LLM を扱うためのライブラリ」に近いです。

Python コードからモデルを呼び出したり、量子化したり、LoRA で fine-tuning したりする場合は mlx-lm が自然です。

Apple Silicon 上のローカルLLM推論を比較した研究では、MLX はその実験条件下で sustained generation throughput が高いと報告されています。ただし、Mac Studio M2 Ultra / 192GB unified memory など特定条件での結果なので、手元の Mac で同じ結果になるとは限りません。(arXiv)

mlx-lm は、Mac 上で MLX を直接触りたい開発者向けの選択肢です。

5. vllm-mlx

vllm-mlx は、Apple Silicon Mac 向けの vLLM 風推論サーバーです。

公式 README では、continuous batching、paged KV cache、prefix caching、SSD-tiered cache を備え、OpenAI /v1/* と Anthropic /v1/messages の両方を同一プロセスから提供できると説明されています。(GitHub)

pip install vllm-mlx
vllm-mlx serve mlx-community/Llama-3.2-3B-Instruct-4bit --port 8000 --continuous-batching

Ollama もローカルAPIを提供できますが、vllm-mlx はよりサーバー寄りの設計です。複数クライアントから使う場合や、OpenAI SDK / Anthropic SDK 互換でローカルモデルを呼びたい場合に候補になります。

vllm-mlx の論文では、M4 Max 上でテキストモデルのスループット改善や、16並行リクエスト時の aggregate throughput 改善などが報告されています。(arXiv)

vllm-mlx は、Mac をローカルLLMサーバーとして使いたい人向けです。単に1モデルでチャットしたいだけなら、Ollama のほうが楽です。

6. その他ツールのリンク

この記事では比較対象から外しましたが、以下も重要な候補です。

• LM Studio: https://lmstudio.ai/docs
• llama.cpp: https://github.com/ggml-org/llama.cpp
• MLC-LLM: https://github.com/mlc-ai/mlc-llm

7. まとめ

Mac MシリーズでローカルLLMを動かすなら、まずは以下の理解で十分です。

Ollama   : まず動かす
mlx-lm   : MLX を直接使う
vllm-mlx : Mac を推論サーバーにする

最初は Ollama。
Python から MLX を直接使いたいなら mlx-lm。
ローカルLLMを API サーバーとして使いたいなら vllm-mlx。

この3つを押さえておくと、Mac MシリーズでのローカルLLM環境はかなり整理しやすくなります。