3
3

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

ROCm7.2で動くollamaコンテナ (qwen3-coder-next動作確認済み)

3
Last updated at Posted at 2026-02-04

注意

  • 2026/4/4
    • ollama version 0.17.7よりあとのバージョンではRadeon S8060を認識せず、CPUにフォールバックするようになりました。修正方法がまだ分からないので、ollama対応待ちです。
    • この記事も特定のollamaバージョンでビルドできるように修正しました。

はじめに

ollama/ollama:rocmはROCm6ベースで何時までたってもROCm7ベースにならないし、最近出たrocm-automatedに含まれるollamaはバージョンが古いのか動かないモデルがあります。実際 docker compose exec ollama ollama -vとしてもollama version is 0.0.0なんて出てきてしまいます。そのためか最近出たqwen3-coder-nextが動いてくれません。これを動かす目的でROCm7ベースのollamaのコンテナを作ってみました。

前提条件

  • 環境
    • EVO-X2/128GB (Ryzen AI Max+ 395 / 128GB)
    • Ubuntu 24.04LTS
  • 状態(以下のことが実行できる)
    • ホストでdockerがインストールされ、コンテナ内でrocminfoなどが実行できる。以下の記事のステップ6までできればOK。

コンテナ構築

  • コンテナ関連ファイルを置く適当なディレクリを作成し、そこにデータを置くディレクトリも作成します。以下は例示なので、皆さんの都合に合わせて場所や名前は決めて下さい。
mkdir /PATH/TO/ollama
cd /PATH/TO/ollama
mkdir data
  • 以下のDockerfileとdocker-compose.ymlをそのディレクトリに置きます。コンテナのイメージ名はご自由に。手順としてはAMDが用意したROCm7が動くdev-ubuntu-24.04:7.2のコンテナにollamaをインストールします。

Dockerfile (2026/4/4更新)

FROM rocm/dev-ubuntu-24.04:7.2

SHELL ["/bin/bash", "-lc"]

ARG OLLAMA_VERSION=v0.17.7

# ollama install.sh が内部で必要とするもの + あなたの手順の zstd
RUN apt-get update \
 && apt-get install -y --no-install-recommends \
      ca-certificates curl zstd \
 && rm -rf /var/lib/apt/lists/*

# Ollama を公式インストーラで導入(手作業手順に合わせる)
RUN curl -fL "https://github.com/ollama/ollama/releases/download/${OLLAMA_VERSION}/ollama-linux-amd64.tar.zst" \
    | tar --zstd -x -C /usr

RUN curl -fL "https://github.com/ollama/ollama/releases/download/${OLLAMA_VERSION}/ollama-linux-amd64-rocm.tar.zst" \
    | tar --zstd -x -C /usr

# Ollama のデータ置き場(compose 側で volume マウントする想定)
VOLUME ["/root/.ollama"]

# 外からアクセスできるように
ENV OLLAMA_HOST=0.0.0.0:11434

EXPOSE 11434

# 手順どおり「ollama serve」
CMD ["ollama", "serve"]


docker-compose.yml

services:
  ollama:
    image: mocketech/ollama-rocm:7.2
    build:
      context: .
      dockerfile: Dockerfile
    container_name: ollama
    ports:
      - "11434:11434"

    volumes:
      - ./data:/root/.ollama

    devices:
      - /dev/kfd
      - /dev/dri

    environment:
      - OLLAMA_HOST=0.0.0.0:11434
      - HSA_OVERRIDE_GFX_VERSION=11.5.1
      - HIP_VISIBLE_DEVICES=0
      - ROCM_VISIBLE_DEVICES=0

    restart: unless-stopped

起動と確認

以下を実行してコンテナを起動します。

docker compose build
docker compose up -d

動作不良が疑われる場合はログを確認して下さい。

docker compose logs -f ollama

動作確認は以下のように実行できます。実行時にモデルをダウンロードしますが、このモデルは80Bあります。初めてテストするならgemma3:4bくらいのモデルが良いでしょう。

curl http://localhost:11434/api/chat -d '{
  "model": "qwen3-coder-next",
  "messages": [ { "role": "user", "content": "自己紹介して下さい。"}],
  "stream": false}' | jq

応答は以下のようになりました。

  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100  1183  100  1053  100   130    216     26  0:00:05  0:00:04  0:00:01   287
{
  "model": "qwen3-coder-next",
  "created_at": "2026-02-06T08:20:51.836195129Z",
  "message": {
    "role": "assistant",
    "content": "こんにちは!私は**通義千問**(つうぎせんもん)と申します。  \nアリババグループ傘下の通義実験室が開発した大規模言語モデルです。  \n日本語を含む多くの言語に対応しており、質問に答える・文章を書く・論理的推論・プログラミングなど、さまざまなタスクをサポートします。\n\n例えば:\n- 📝 書き物(レポート、物語、メールなど)\n- 🧠 ちょっと難しい質問の解説\n- 💻 コードの作成・デバッグ(Python、JavaScript、Javaなど)\n- 🌍 異文化コミュニケーションのサポート\n\n何をお手伝いできるでしょうか?  \nお気軽にご相談くださいね! 😊"
  },
  "done": true,
  "done_reason": "stop",
  "total_duration": 4862564905,
  "load_duration": 49069821,
  "prompt_eval_count": 15,
  "prompt_eval_duration": 94170671,
  "eval_count": 178,
  "eval_duration": 4701894270
}

ollama、ROCmのバージョンアップ

  • ROCmのバージョンはベースイメージのROCm/dev-ubuntu-24.04:7.2で固定しています。Dockerfile内のこの名前を変更して、コンテナを再構築して下さい。
  • ollamaのバージョンアップはDockerfileのOLLAMA_VERSION変数を編集してコンテナを再構築して下さい。(2026/4/4更新)
docker compose build --no-cache
  • コンテナ再構築の際にはdocker-compose.yml内のイメージ名を変更することをお勧めします。

以上です。

3
3
3

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
3
3

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?