はじめに
新しく個人用に買った「M5チップを搭載した MacBook Pro 14インチ」で「LM Studio の MLX版モデルを使った時のエラー」を解決する、という話です。
以下の記事に書いた内容を試している中で発生していたエラーへの対処になります。
●LM Studio の Model Catalog をあらためて見直し：VRAM 24GB の 新しい PC 入手のタイミングで（2026年1月） - Qiita
https://qiita.com/youtoy/items/4ab00c96ec48d60a1542
LM Studio で起こったエラーの具体的な内容について
上で書いていたエラーの具体的な内容は、以下のエラーメッセージの内容です。
Error in iterating prediction stream: RuntimeError: [metal::Device] Unable to load kernel affine_qmm_t_nax_bfloat16_t_gs_64_b_8_bm64_bn64_bk64_wm2_wn2_alN_true_batch_0
その際の画面のキャプチャは以下です。
Web検索してみたところ、このエラーに関する以下の GitHub の Issue が見つかり、そこに上記エラーに関する対処法が書かれていました。具体的には「ランタイムを Release から Beta にする」という記載があったのですが、今回、これを実際に試してみました。
●MLX models not working on M5 MacBook Pro · Issue #1356 · lmstudio-ai/lmstudio-bug-tracker
https://github.com/lmstudio-ai/lmstudio-bug-tracker/issues/1356
LM Studio でのエラーへの対処について
LM Studio のランタイムの管理や選択をする画面で、「ランタイム拡張パック」の横にあるプルダウンメニューを「安定版 ⇒ ベータ版」に変更してみました。その時の画面は以下のとおりです。
上記のベータ版への切り替え操作をしたところ、一覧の中に「LM Studio MLX（Apple M5）」という項目が出てきました。バージョンは「LM Studio MLX」と同じ v0.41.0 になるようでした。
説明文のところには、「M5 Neural Accelerator support」と書かれています。
上記の「LM Studio MLX（Apple M5）」をダウンロードした後、エンジンの選択を以下のように切り替えました。
その後、MLX版のモデルでの処理を試したところ、エラーが発生しなくなりました。