IBM CloudのRocky Linux 10イメージでOllamaを起動するまでの最短ステップ

要GPU

sudo dnf install epel-release pciutils zstd
sudo dnf config-manager --add-repo https://developer.download.nvidia.com/compute/cuda/repos/rhel10/x86_64/cuda-rhel10.repo
sudo dnf install -y nvidia-driver nvidia-driver-cuda
sudo reboot
nvidia-smi
curl -fsSL https://ollama.com/install.sh | sh
ollama run granite4

>>> こんにちは
こんにちは！何かお手伝いできることがありますか？

>>> 君は誰？
私はAIアシスタント、この会話に参加してくれた人の名前を知らない状態です。ただ、あなたからの質問や依頼にお答えすること
ができるように努力しています。どんなことでも遠慮なくお聞かせください！