問い合わせメールを種類ごとに仕分ける。商品名の表記をそろえる。文章を会社の書き方に直す。こうした小さな作業を、多くの人は毎回大きなAIに頼む。でも同じ作業を1日に何千回も繰り返すと、呼び出しの料金と待ち時間がじわじわ効いてくる。
ひとことで言うと、今日の話は指示文を一度だけ小さな専用モデルに焼き付けてしまう技術だ。うれしいのは、できた部品が自分の手元で安く速く動き、外部のAIをもう呼ばなくてよくなること。
目次
- 毎回クラウドを呼ぶと、お金も時間もかかる
- 指示文を一度だけ小さなモデルに焼き付ける
- 完全一致ゼロの難問で83.6%、作る時間は約1分
- 今日できること
毎回クラウドを呼ぶと、お金も時間もかかる
ルールでは書きにくいのに、言葉でなら簡単に説明できる作業は多い。「もっと丁寧な口調に直して」がその例だ。大きなAIに任せると便利だが、入力のたびに料金がかかり、応答も待たされる。
現場の感覚で言うと、もっと怖いのは提供元への依存だ。ある日モデルが静かに更新され、昨日と同じ指示なのに結果が変わることがある。毎回の呼び出しは、この不安定さをずっと抱えることになる。
指示文を一度だけ小さなモデルに焼き付ける
この研究はそこを「コンパイル」で解く。コンパイルとは、ひとことで言うと、文章で書いた指示を機械が動かせる形に変換することだ。プログラムのソースコードをアプリに変換するのと同じ発想を、AIへの指示文に当てはめた。
やり方はこうだ。まず先生役の大きなAI(teacher model)に、その作業の練習問題を大量に作らせる。次にその練習問題で、小さなモデルを短く訓練する。
土台に使うのは Qwen3-0.6B という6億規模の小さなモデルだ。これを固定したまま、LoRA という小さな追加部品だけを訓練する。訓練が終われば、先生モデルはもう要らない。
これまで: 指示文 → 毎回クラウドの大きなAIを呼ぶ → お金と時間がかかる
今回: 指示文 → [一度だけ小さな部品に焼き付け] → 手元で何度でも安く動く
矢印は処理の流れを表す。四角い箱が、今回加わった「焼き付け」の一手間だ。ここを一度通すだけで、あとは大きなAIなしで動く。
できた部品は、普通のソフトの部品と同じように扱える。バージョンを固定し、差分を見て、他の処理とつなげられる。私はこの「固定できる」点が一番大きいと思う。モデルの勝手な更新に振り回されないからだ。
完全一致ゼロの難問で83.6%、作る時間は約1分
この仕組みには、部品を1回の計算でパッと予測する「速い作り方」もある。3.5秒で作れるが、難しい課題は苦手だ。今回はそこを訓練で補う。
速い作り方が完全一致を1つも出せなかった難問セット(FuzzyBench-Hard)で比べた結果がこれだ。
| 作り方 | かかる時間 | 難問での正解率 |
|---|---|---|
| 速い作り方(1回で予測) | 3.5秒 | 22.4% |
| 今回(訓練して作る) | 約1分 | 83.6% |
正解率は「意味が合っているか」で測っている。作る手間は増えるが、その一度きりのコストで、あとは安い動作を何度でも得られる。作ったチームは、ウェブサイトの案内役や、言葉で動かす3Dアバターといった実例も公開している。この成果はAIの国際会議 EMNLP 2026 で発表される。
今日できること
自分の指示文がどんな部品になるか、公開されたプレイグラウンドで実際に試せる。指示を書いて焼き付け、その場で動きを確かめられる。
論文の詳細はこちらで読める(英語)。
今日覚えること。同じ小さな文章処理なら、毎回AIを呼ばず一度だけ小さな部品に焼き付けられる。その部品は固定ファイルなので、安く速く動き、バージョンも管理できる。
※本記事は一次情報の調査をAIが行い、事実確認のうえ執筆・公開しています。