0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

ローカルLLM:「MLX LM」「MLX-VLM」「MLX-Audio」の MLX版モデルのみをダウンロード・削除も(uv と hf を利用)

0
Posted at

はじめに

過去に試して記事を書いてきた、MLX版を扱う以下の「mlx-○○ 3種(lm、vlm、audio)」に関する記事です。

今回も扱う実行環境の GitHubリポジトリ

まずは以下に、それぞれの GitHubリポジトリを掲載してみます。

「MLX LM」

●ml-explore/mlx-lm: Run LLMs with MLX
 https://github.com/ml-explore/mlx-lm

2026-06-28_21-48-30.jpg

「MLX-VLM」

●Blaizzy/mlx-vlm: MLX-VLM is a package for inference and fine-tuning of Vision Language Models (VLMs) on your Mac using MLX.
 https://github.com/Blaizzy/mlx-vlm

2026-06-28_21-48-48.jpg

「MLX-Audio」

●Blaizzy/mlx-audio: A text-to-speech (TTS), speech-to-text (STT) and speech-to-speech (STS) library built on Apple's MLX framework, providing efficient speech analysis on Apple Silicon.
 https://github.com/Blaizzy/mlx-audio

2026-06-28_21-49-03.jpg

今回やってみた内容

今回利用するコマンドや試す内容の概要

今回、以前記事を書いた時に用いたコマンドラインツールの一部を、別のものにしてみたりなどしました。

具体的には、Python標準のコマンドで仮想環境を扱っていたところを、 uv を使った形にしてみます。それと
Hugging Face の Command Line Interface(CLI)の hfコマンドを使います。

また今回は、MLX版のモデルをダウンロードするだけで出力は行わない、という流れを試してみました。その後、ダウンロード済みのモデルの削除も試しました。

環境のセットアップ

環境のセットアップに関して、上で書いていたとおり uv を使います(以前の記事では、python・pip とデフォルト機能の仮想環境を使ってきた部分)。

uv を使った「MLX LM」のセットアップ

セットアップについて、「MLX LM」での事例の一例を示します。

uv init 【特定のフォルダ名】
cd 【特定のフォルダ名】

uv add mlx-lm

このようなコマンドで環境を準備します。この時の uv add コマンドでは、裏で自動的に仮想環境(.venv)が準備されます。そして、パッケージはその仮想環境に追加されます。

uv を使った「MLX-VLM」と「MLX-Audio」のセットアップ

「MLX-VLM」と「MLX-Audio」のセットアップについては、上で用いたコマンドの最後の部分を以下にすれば OK です。

uv add mlx-vlm
uv add mlx-audio

【余談】セットアップでの名前重複によるエラーについて

この手順について、例えば mlx-lm というフォルダを作って、その直下で uv add mlx-lm を実行するとエラーが出ます。その原因は名前の重複です。具体的には、「自分自身のプロジェクト(mlx-lm)と同名の外部パッケージを依存関係に追加しようとしている」、という判定になるためのようです。

これに関する簡単な対処方法は、フォルダ名を重複しないものにすることです。

それとは別に、init の実行後の pyproject.toml を書きかえる方法もあります。tomlファイルを書きかえる方法のほうは、tomlファイルの中の name で設定されるプロジェクト名の部分を、フォルダ名とは重複しない名前に変更すれば OK です。

pyproject.toml
[project]
# name = "mlx-lm"
name = "【mlx-lm と重複しないプロジェクト名】"
...

モデルのダウンロードのみを行う

あとはモデルのダウンロードのみを行うコマンドについて書きます。その際、以下の Hugging Face の CLI である「hf」を使います。

●hf · PyPI
 https://pypi.org/project/hf/

●Command Line Interface (CLI) · Hugging Face
 https://huggingface.co/docs/huggingface_hub/guides/cli

hf の準備(今回の場合)

今回の場合の hf のセットアップについて記載します。

通常の導入方法を用いても良いのですが、今回の場合は MLX-Audio のセットアップをしたフォルダ直下で利用することにしました。具体的には、MLX-Audio のセットアップをしたフォルダで uv run hf という形でコマンドを実行すれば、hfコマンドが使えます。

ダウンロードするモデル

今回ダウンロードするモデルを選定します。モデルは、mlx-community(MLX Community)が Hugging Face上で公開しているモデルを使います。

以下がモデル一覧です。

●mlx-community (MLX Community)
 https://huggingface.co/mlx-community/models?sort=created
 https://huggingface.co/mlx-community/models?sort=modified

この中で、今回は以下を選びました。

●mlx-community/Qwen3-ASR-1.7B-8bit · Hugging Face
 https://huggingface.co/mlx-community/Qwen3-ASR-1.7B-8bit

●mlx-community/Voxtral-Mini-4B-Realtime-2602-4bit · Hugging Face
 https://huggingface.co/mlx-community/Voxtral-Mini-4B-Realtime-2602-4bit

●mlx-community/gemma-4-12B-it-4bit · Hugging Face
 https://huggingface.co/mlx-community/gemma-4-12B-it-4bit

ダウンロードするためのコマンド

ダウンロードするためのコマンドを以下に記載します。

uv run hf download mlx-community/Qwen3-ASR-1.7B-8bit
uv run hf download mlx-community/Voxtral-Mini-4B-Realtime-2602-4bit
uv run hf download mlx-community/gemma-4-12B-it-4bit

これらを実行して、それぞれのモデルをダウンロードしました。

モデルの一覧を表示させる

以下のコマンドでモデルの一覧を確認してみます。

uv run hf cache ls

上記のコマンドを実行したところ、以下のように 3つのモデルがダウンロードされたことが確認できました。

2026-06-30_11-19-28.jpg

ちなみに、表示対象をフィルタすることもできるようです。

例えば以下のコマンドを使うと、サイズが 6GB より大きいモデルのみ表示対象にできます。

uv run hf cache ls --filter 'size>6G'

以下は実際に、上記のコマンドを実行した結果です。指定したとおり 6GB より大きいモデルのみが表示されました。

2026-07-04_19-53-55.jpg

モデルを削除する

あとはモデルを削除するコマンドの話を書きます。

用いるコマンドは以下のとおりです。

uv run hf cache rm 【削除対象のモデルの ID】

ここで「削除対象のモデルの ID」は、例えば model/mlx-community/gemma-3-270m-it-qat-4bit などという文字列です。

上でモデルの一覧表示に使った uv run hf cache ls を実行した時に、一番左に表示される文字列です。このコマンドを使って、自分がローカルにダウンロードしたモデルの中の、特定のモデルが削除できたことを確認できました。

その他

以下は、今回用いた hfコマンドのヘルプなどに関する内容のメモです。

hfコマンド関連のヘルプを見てみる

今回の記事を書く中で、hfコマンド関連のヘルプを見てみたのですが、その時の画面キャプチャのメモです。

uv run hf cache のヘルプ

2026-06-30_11-18-57.jpg

uv run hf cache ls のヘルプ

2026-06-30_11-18-11.jpg

uv run hf cache rm のヘルプ

2026-07-04_21-58-57.jpg

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?