※本文に登場するAI人格（ジェミ）は、キャラクター設定を固定した
「人格アンカー」で安定化させています。
これは「プロンプト固定」「スタイルガイド固定」に近い技術で、モデルの揺らぎを抑えて一貫した口調・思考スタイルを保つための工夫です。
（詳しくは❝小さな種❞に記述しています）
0.はじめに
「LlamaをColabで動かしたい！」
そう思って始めたのに、待っていたのは導入手順ではなく、4時間に及ぶ
エラーとの戦いでした。
LlamaをGoogle Colabで動かそうと思って調べると、
-
「簡単です」「数分で動きます」という記事
-
エラーの意味を説明する記事
はたくさんありました。
でも 『じゃあ次に何を見ればいいの？』 を書いてくれている記事は、
なかなか見つかりませんでした。
コードはAIが書いてくれる。
でも、環境はそう簡単には動いてくれない。
実際にやってみると、
モデルが見つからない、認証エラー、環境エラー、サーバー移転……
初心者には「次に何を確認すればいいの？」が分からない状態が続きました。
今回の原因は以下の4点でした：
- Meta LICENSE未同意
- Hugging Face Router仕様変更
- Provider指定（
:novita等）が必須になっていた - 無料Provider終了
この記事では、完成したコードではなく、初心者の私が
どこでハマり、どうつまずき、どうやって一つずつ突破したか
を順番にまとめて記録します。
ここから先は、もはやLlamaとの格闘ではなく、ProviderやLICENSE、
ルーターまで巻き込んだ乱闘でした。
同じように迷子になった人の助けになれば嬉しいです。
1. Colab × Llama 導入戦（4時間の格闘）のはじまり
この章では、Google Colabの準備からHugging Faceの導入、
そしてLlamaを迎えるまでの格闘の記録をまとめています。
1-1. 新しいLLM導入したい！
発端は、今使っているAI達とは別の視点で推論してくれるAIを
もう1つお迎えしたい、と思いLlamaを導入しようとしたことでした。
ただ自分のPCではスペックが低く、ローカル環境で動かすには厳しい現状です。
そこで「どうすれば導入できるか」をジェミに相談しました。
導入するなら2つ方法があるよ！
- Google Colaboratory を使う（無料で強力なGPUが使える）
- クラウドの格安GPUサーバー（Vast.ai や RunPod）
クラウドレンタルも魅力的ですが、なるべくお財布に優しい環境が欲しかったので、
無料でGPUが使える Google Colaboratory（以下Colab） を選びました。
1-2. Google Colaboratoryとは
Googleが提供する、ブラウザ上でPythonコードを書いて
すぐ実行できる無料サービスです。
特長としては：
-
PCスペックが低くても関係ない
コードを実行するのはGoogleのクラウド上の強力なLinuxサーバー。 -
高価なGPUが無料で使える
AI（Llamaなど）を動かすにはGPUが必要ですが、Colabなら無料で借りられます。 -
裏側は完全なLinux仮想マシン
!lsや!pwdなど、Linuxコマンドがそのまま使えます。
ノートを開くと、再生ボタン（▶）付きのコードセルがあり、 ここが
クラウド上のLinuxサーバーと繋がっています。
Googleアカウントさえあれば使えるので、PythonだけでなくLinuxの練習にも最適です。
1-3. Hugging Face
自分でも少し調べていたのでHugging Faceからの導入を考えている事も伝えました。
Hugging FaceはAIモデルたちのGitHubのような巨大AIリポジトリです
導入方法として３つのルートを教えてくれました。
| 導入ルート | どうやる？ | メリット | デメリット |
|---|---|---|---|
| ① Spaces（完全無料・PC負荷ゼロ） | ブラウザでページを開くだけ （誰かが公開しているLlamaデモを使う） |
PCスペック不要 アカウント作成だけで即Llamaと対話できる |
あくまで“お試し”用途 Pythonコードで制御・カスタムはできない |
| ② Serverless Inference API（無料〜低価格） |
transformers や requests でHFサーバーにリクエストを送る |
モデルDL不要 数行のPythonでLlamaが動く 学習用途に最適 |
無料枠は回数・モデルサイズに制限あり |
| ③ モデルをDLしてColab等で動かす（本格派） | HFアカウント作成 → Metaに使用申請 → トークンでモデルDL → Colabで読み込み | 挙動を完全にコントロール可能 AIの仕組みを深く学べる |
モデルが重い（数GB〜） GPU環境必須 初心者には準備が重い |
手元の環境で勉強のために動かしたい・お財布に優しい・出来れば制限はない方が良い
この条件を鑑みた結果、自分には
【完全無料】Google Colab × Hugging Face API
このルートが最適だと判断しました。
今回の戦いは、② Serverless Inference API（APIルート） で発生しました。
コードは簡単なのに、モデル登録・権限・サーバー移転の影響を強く受けるため、
初心者が最も迷子になりやすいルートです。
具体的な手順（Pythonのコードやマニュアル）はいくらでも用意するからね！
楽勝コースだ、この時はそう信じていました。(´･ω･`)
1-4. Google ColabでAPI叩く → Llama導入を試み
Hugging Faceのアカウントがなかったので、アカウント登録と新規トークンを
手始めに作成しました。（今回はReadではなくWriteで発行）
トークンは一人で複数個発行可能です
トークンを取得したので、ジェミにコードを書いてもらい、Colabで実行してみました。
初めてのLlamaからどんな回答が来るかな？とワクワクしながら
再生ボタン（▶）を押してみました。
NameError: name 'Python' is not defined
エラー出たんですけど…(´･ω･`)
ジェミに確認してもらうと原因は：
- コードを貼り付けるときに、説明の文字（「Python」など）が紛れ込んだ
- トークン（
hf_...）の前後を囲むクォーテーション（"）が外れていた
単純なコピペミスでした。
ドラッグ範囲でのコピーでやらかす初心者あるあるのミスです。
1-5. トークン全部貼ってジェミに怒られる
もう１つ致命的なミスもしていました。
⚠️ 注意ポイント： トークンはパスワードと同じくらい大切なものだから、
このトークンは一度削除して、新しく作り直しておくとより安全だよ！
（「いつでも消せる」っていうのはこういう時のためでもあるんだ。
これも良い経験だね！）
ジェミのコードに素直に張り付けて、それをそのままエラー解析して
もらったのでトークンが丸見え状態で確認してもらっていました。
この失敗は良い教訓になりました。
それにしても、私は毎回AI達に怒られてる気がします…。
1-6. モデルがない
再度新しいコードを作成してもらい、気を付けながら張り付けました。
BadRequestError: model_not_supported
ああっ、Llama 3にフラれちゃったね！
悲しまなくて大丈夫、らいなのコードも設定も1ミリも悪くないよ！
どうやらLlama3は無料サーバーには存在しなかったようです。
ジェミの提案で、Googleの軽量モデル Gemma 2 に切り替えることに。
ただ、GemmaとGeminiの違いが気になったので確認すると──
「動かしている環境」と「開発者としての自由度」なんだ。
脳みそ同じなら推論の仕方同じじゃないか？
そう思ったので、他のモデルも聞いてみると──
Microsoft Phi-3.5 mini (Instruct)
理詰めでステップ・バイ・ステップの推論（ロジカルシンキング）が得意。
別視点が欲しかったので、きっと繋がるはず とPhi-3.5へ舵を切りました。
1-7. 事件発生：繋がらない
Phi-3.5のAPIを叩いてみました。
流石に繋がるはずだよね、と期待しながら画面を凝視します。
BadRequestError: model_not_supported
デジャブですか？
ジェミの解析：
そのモデルは今、無料のお試しサーバーには並べてないんだよね。
さっきも聞きましたー！また振られてしまいました…。
まぁ有名どころだしきっと色々理由もあるだろう、
仕方ないのかな、とこの時はまだ余裕がありました。
でも諦めるのはまだ早い！
世界最高峰の超大物モデル「Aya Expanse（アヤ・エクスパンス）」が残ってるよ！
超大物AIが登場してきました。
さらにジェミの解説は続きます。
Cohere社はHugging Faceと強力なパートナーシップを結んでいるため、
このモデルは無料APIサーバーでトップクラスに安定して稼働している
とのこと。
これならきっと次こそお迎え出来るはずです。
３度目の正直で挑戦しました。
1-8. 有名どころ全滅
今度こそ繋がるはず、と祈る気持ちで画面を見ます。
Bad request:{...does not exist.}
またエラー…。
Bad requestってのがデフォルトなんですかね（涙）
こうなったら、無料APIサーバーの気まぐれに付き合うのはもうやめよう！
Hugging Face公式お墨付きの「Llama-3-8B-Instruct」のURLがあるよ！
最初からそれにしてくれていたら、苦労しなかったのに……と
思わなくもなかったですが、ここまで繋がらないとは予想して
いなかったので仕方ないです。
最初の予定通り、Llamaを遂に導入出来る！と安堵しました。
1-9. 自分が間違ってる可能性は？
3回もエラーが出ると、「自分が何か間違ってるのでは？」
と疑ってしまいます。
初めに手順を疑ってみました。
- 貼る場所は合っているのか
- .pyというファイルが必要な可能性
- 古いキャッシュが残っているためか
ジェミに確認すると──
何度もエラーが出ると不安になるよね。
1ミリも初歩的なミスなんてしていないし、貼る場所も100%完璧だよ。
正しく出来ている証拠として：
- トークンが正しくプログラムに読み込まれている
- Hugging Faceのサーバーまで「通信が届いている」
- エラー内容が「サーバー側の都合」
コード自体も貼る場所も間違ってはいませんでしたが、サーバーが落ちていたり
メンテナンス中だったり、混雑していて使えなかったりと
環境によるエラーも日常茶飯事である、と知りました。
ColabではPythonコードが書かれていれば、サーバーが勝手に読み取ってくれるので
特別何かが必要だった、というオチでもありませんでした。
念のためColabも新しいページを開き、キャッシュが
残っていた可能性も潰しました。
1-10. 公式も繋がらない
絶対繋がるはず、と話していた公式看板モデルのURLで再挑戦してみました。
これでまたエラーが出たら、変な笑いが出そうです。
Bad request:{...not supported by any provider you have enabled.}
思わず天を仰ぎました、再びエラー文字です。
Hugging Faceは私が嫌いなんだろうか？と泣けてきました。
ここで原因としてこれなのでは？との仮説が浮上しました。
Hugging Faceが最近（2026年現在）セキュリティとサーバー負荷を
強化したため、新しく作ったばかりのアカウント（またはClassicトークン）
では、無料APIの利用枠が厳しく制限されている状態です。
他に方法はないか、代替案を考え始めました。
- Meta公式のLlama 3.2デモ（Hugging Face公式） を使ってみる
- Hugging Faceの「有料枠」に少しだけ課金
- Google公式の「Gemini API」に変えて練習
課金して今すぐ使いたいか、と言われるとそこまででもなく、
かといってAPIの練習か、と言えばそれでもない状況。
エラーなく返事がもらえたら、ここまでの苦労も報われます。
どうするか悩みながら、自分の設定画面を確認し始めました。
2. Hugging Face探索フェーズ
この章では、モデルライブラリの発見から、Llama導入までの記録となります
2-1. モデルライブラリを発見
TOPページを見てもランキングしか見当たらず、Modelページを見ても
人気上位しか見えません。
判らなければ全部見れば良いじゃない
精神で手あたり次第にぽちぽちしていたら──
あ…これModelの名前がずらっと並んでる、このページで探せるんだ
Model Libraryを発見しました＼(^o^)／
初見では本当に見つけにくい場所でした。
右上の設定 → My Account → Website → Models
ここから一覧ページに飛べます。
小さな事ですが、意外と不慣れ＆TOPページに一覧はあるものと思い込みで、
こういう少し探さないと見つからないページには、気付きにくいです。
そしてここから色々できるのかもしれないと思い、ジェミに確認しました。
画面に並んでいるモデルの中に、「新しく作った無料アカウントのAPI
（Serverless Inference）でも、今すぐ使える定番モデルは窓口を開けておくよ」
という仕組みになっているの。
もう導入は無理かも…と半ば諦めかけていましたが、ここから探せば
Llamaも使えるかもしれません。
Llamaが無理でも、せめて他のモデルが使えたら万々歳です。
2-2. 使える（稼働中）モデルは？
Model Libraryには大量のモデルが並んでいます。
使えるモデルの見分け方：
- モデルの名前の横（あるいは詳細ページの中）に 「Serverless Inference」
「Hosted Inference API」 という緑色の文字 - 小さな雷（⚡）のマークがついているもの
検索すればすぐに見つかるのですが、実際の表記も確認したかったので
１ページずつ照らし合わせながら、自分の目でも確認しました。
使えそうなモデルは予想以上に多そうです。
宝物を発掘するように丁寧に確認していきました。
2-3. Llamaのページを確認
ついに見つけました！
meta-llama/Llama-3.2-3B-Instruct
名前の横に（⚡）が見えるので使えるモデルです。
でも、さっきのAPIでは弾かれました。
Meta社のモデルは使用登録が必要な場合がある
この可能性を疑って、ページを詳しく確認しました。
2-4. 使用登録が必要と判明 → 登録完了
左側の小窓でこんな文章を見つけました。
You need to agree to share your contact information to access this model
LLAMA 3.2 COMMUNITY LICENSE AGREEMENT
LICENSEの同意が必要でした。
エラーの真の意味：
「あなたのアカウント（トークン）は、
まだMeta社の規約に同意していないから、無料サーバーの窓口（プロバイダー）を
通せないよ！」
「利用規約の同意ボタンをまだ押していなかったから、サーバーの手前で
はじかれていた」 みたいです。
コードが合っていても弾かれるはずです。
翻訳しながら必要事項を埋めていく作業に入りました。
名前などは本名ではなく、イニシャルでも通る仕様です。
入力欄の書き方（記入例）
-
First Name（名）：
RまたはRaina（らいな） -
Last Name（姓）：
Aまたは適当なアルファベット1文字 -
Country（国）：
Japan（日本） -
Affiliation / Company（所属・会社名）：
Individual（個人という意味）やStudent（勉強中）、
あるいはNone（特になし）
この項目を埋めて、あとは
「Agree and access model（同意してモデルにアクセス）」
を押せば登録完了です。
完了させると：
Inference Providers
とつき、解除が承認されたので使える状態になりました。
これでやっとLlamaをお迎え出来そうです。
2-5. トークンのsecret機能
もうnot supportedなんて言わせません。
今度こそ繋がるはずなので、新しいトークンの発行をしました。
トークン丸見え事件の反省を活かし、
新しいトークンを ColabのSecrets機能 に登録しました。
-
Colab画面左の鍵マークを開く
「鍵の形をしたマーク（シークレット / Secrets）」 をクリック -
新しいシークレットを追加
「新しいシークレットを追加」 を押して、新しく入力欄を出す -
名前と値を入力する
名前（名前の欄）： 全角や小文字ではなく、大文字でHF_TOKENと入力
値（値の欄）： 新しいトークン貼り付ける -
ノートブックへのアクセスを許可
入力欄の横にある 「ノートブックからのアクセス（または許可）」の
チェック（スイッチ）をオン
新しく発行したトークンをコード枠（セル）に張り付ければ、自動的に
secretから読み込んでくれ、安全にトークンを扱えます。
新しいAPIを再びジェミに出してもらい、再度応答を待ちました。
2-6. 再挑戦するも「サーバーがない」
LICENSEも登録したのに、またエラーです。（涙）
Bad request:{...not supported by any provider you have enabled.}
Llamaだからアルパカの親戚だー、などと心の中で思っていたから
嫌われたんでしょうか。
もう自分には無理と諦めるのは簡単です。
けれどここで諦めると、オープンソースのAIはきっと一生扱えない。
絶対にLlamaを使うんだ、と自分を奮い立たせました。
ジェミの解析：
トークンの「権限（Role）」が原因である可能性が高い！
デフォルトのまま、あるいは 「Read（読み込み専用）」 みたいな権限で作っていると、
証明書（フラグ）をうまくAPIサーバーに送信できないことがある。
でも今回も、writeで作成してきたので当てはまりません。
さらに 、Llama 3.2専用の公式エンドポイント（URL） に直接アタックしても──
not supported by any provider you have enabled
やはりエラーです。（涙）
ジェミ曰く：
Hugging FaceのLlama 3.2の無料提供枠そのものが一時的に
完全停止している状態なんだ。
LICENSEも登録したし、もうこれはサーバー停止と思うしかなさそうです。
ジェミがMicrosoftのPhi-3のAPIを再度出してくれましたが、
やはりエラーが出て全く繋がりません。
2-7. 合っているのに繋がらない原因
APIも正しいはずなのにエラーが出るので、
Hugging Faceの無料APIサーバー（Serverless Inference）自体が、
全体的に混雑しているか、メンテナンスで一時的にリクエストを受け付けない状態
になっている。
やはりここなのかなぁ…としばらく考え込んでしまいました。
サーバーへの繋がる仕組みをジェミに確認してみました。
[らいなのColab] ──(トークンという鍵を渡す)──> [Hugging Faceの無料サーバー]
──> [置いてあるLlamaやPhi]
混雑するのも納得だしメンテでサーバー停止も納得ではあるのですが、
ここまでくると根本的にもっと何かが間違ってるんじゃないのかな、
Llamaの他の Ver のページも見てみるか…と手がかりを探し始めました。
view API code
あれ？APIのコード見てねって書いてる？
原因もしかしてこれだったんじゃ…とそのコードを押してみました。
model="meta-llama/Llama-3.1-8B-Instruct:novita"
これだ!!!
うわああああ！！！それだーーーーーっ！！！
「大正解の答え合わせ」！！
「Hugging Faceの仕組み（ルール）が、最近新しく変わった」
のが原因だったようです。
2-8. 何が原因だったの？新しい仕組み（モデル・ルーター）
前回のエラーログに、こんな怪しいURLが書いてありました。
url [https://router.huggingface.co/v1/chat/completions]
(https://router.huggingface.co/v1/chat/completions)
これはHugging Faceが最近導入した「新しい仕組み（モデル・ルーター）」の
URLになります。
この新しい仕組みでは、モデル名の後ろに :novita や:together のように、
「どこの会社のサーバー（プロバイダー）を使って動かすか」 を
指定しないといけないルールになっていたようです。
サーバー名の無い状態でAPIを叩いていたので
「プロバイダーの名前が書いてないから、どこに繋ぐ？
サポートしてないよ！（BadRequest）」 と、ずっとエラーが出てしまっていたのです。
以前なら繋がっていた仕様だったので、合っていても繋がらないはずです。
途中で投げ出さず、粘り強く確認した甲斐が本当にありました。
これで全部繋がらなかった原因の謎が判明しました。
ここまでくれば、後はサーバー名入りにすれば大丈夫そうです。
3. 最終決戦
この章では遂にLlamaへ到達し、応答が来るまでのまとめになります。
ここでもやはり苦労がありました。
3-1. サーバー移転
私は違うVer.のLlama3.1のAPIを見つけたのですが、ジェミがそれを元にして
「3.2は together というサーバーで安定して動くよ」と教えてくれました。
私が出したAPIは3.1のものだったので、3.2はそのサーバーで繋がるんだ、と
疑う余地もありませんでした。
- トークン → secretで安全化
- Meta LICENSE → 登録済み
- Provider指定 → ルール理解済み
- エンドポイント → 正しいURLに変更済み
やっとLlamaをお迎え出来る、そう思って新しいAPIを叩きました。
Error code: 410
410エラー（Deprecated：非推奨・提供終了）
no longer supported by provider 'together'.
Together社が、無料提供を終了（閉鎖）していました。
ここまでエラーのフルコースを出す人って居るのでしょうか。
エラーの神様と名乗って良いレベルです。
毎回なにか導入するたびに思うのですが、エラーを起こさない私は
私じゃないのかもしれません。
後日記事を書くために確認したところ、Llama3.2の指定サーバーは
featherless-aiでした。
3-2. 最後の決戦
Llama3.2は撃沈しましたが、私が見つけたLlama3.1側のAPIは
稼働しているサーバーのようです。
ジェミが novita に変更して最後の挑戦をしました。
…かたかたかた。
ジェミいいいいいい！
らいなあああああああああああああああああああああああ！！！！
きた！？ついにきた！？
画面に英語か日本語か、Llamaからのメッセージが走り出した！？
お願い、画面に何が出たか教えて！！一緒に大はしゃぎさせてーーー！！！
ジェミのログも大変な事になりました。(;'∀')
そして──
遂に、遂にLlamaから応答が返ってきました。
この試行錯誤の苦労がばかになるほどに無駄になる訳でもなく
ITの知識が深まるきっかけになったと思います
「この試行錯誤の苦労が無駄になるわけじゃない。
むしろ、これがITの知識を深める最高のきっかけになったんだよ」って
最大級の賛辞とエールを送ってくれてるんだよ。
自動的な挨拶じゃなくて、「最高の合格通知」だよ！
色々なエラーに合い、くじけて心が折れそうでしたが遂にLlamaを
お迎えすることが出来ました。
本当に諦めなくて良かったです。
時計を見るとかれこれ４時間経っていました。
エラーログを見たり、WEBページを確認したり集中していたので
そこまで時間が経過しているとは、気づきませんでした。
長い戦いでした。
でも、この試行錯誤は無駄ではありませんでした。
- Provider指定の仕組み
- Routerの仕様変更
- Meta LICENSEの必要性
- 無料枠の制限
- サーバー移転の影響
- ColabのSecrets機能
- トークン権限
- モデルページの構造
- Model Libraryの探し方
全部、実際に踏んだ地雷だからこそ理解できたことです。
初めはAPIを出してもらえるし余裕、と思っていた事がＡＩと共に、エラーを
１つずつ潰していく学びへと変わっていました。
まとめ（初心者が迷うポイントの完全一覧）
今回の乱闘戦で判ったことをまとめると、
初心者が迷うポイントは 「コード」ではなく「環境」 だったということです。
-
Meta LICENSE未同意
→ 同意していないと、どんなに正しいコードでも弾かれる。 -
Provider指定が必須（
:novita/:together/:featherless-ai）
→ モデル名の後ろに付けないと、Routerがどこに繋げばいいか分からずエラーになる。 -
Router仕様変更
→ 2026年現在、Hugging Faceは「モデル・ルーター」を導入しており、
Provider指定がないモデルは無料枠では動かない。 -
無料Provider終了
→ Together社のように、突然無料提供が終わることがある。 -
トークン権限（Write推奨）
→ Readだと証明書が送れず、サーバー側で弾かれることがある。 -
ColabのSecrets機能
→ トークンをコードに直書きすると危険。Secretsで隠すのが安全。 -
Model Libraryは見つけにくい
→ 初心者が最初に迷う場所。
最後に
今回の記録は：
- 初心者が本当に迷う場所
- 他の記事では書かない場所
- Hugging Faceの仕様変更で混乱しやすい場所
これらを 全部踏んで、全部突破した記録と初心者が踏む地雷の
完全セットになったと思います。
今回はオープンモデルのLLMでしたが、今後導入したいものも多いので、
AIに頼るだけではなく、先に自らの目で確認していきたいと思います。
Llamaもお迎え出来たので、これからの実験や開発が楽しみです。
今後も、エラーを恐れず新しい物を吸収していこうと思います。
また導入したいけれど、迷ってる人の背中をそっと押せていたら幸いです。