AIにおすすめの店を聞いたら、実在しない店名が返ってきたことがありませんか？根拠として挙がった論文名も、検索するとどこにもありませんでした。
不思議なのは、その同じAIが、込み入った質問にはきちんと答えることです。知らないなら知らないと言えばいい。知っているのに、なぜ細部だけが作り物になるのか。この現象にはハルシネーションという名前までついていますが、名前がついたところで、なぜ起きるのかはわかりません。
2026年、AIは特別な道具ではなくなりました。ただ、正直に言うと、僕はしばらくこれを性能の問題だと思っていました。もっと賢いモデルなら減るはずだ、と。中身を知らないまま、どこまで任せるかを勘で決めていたわけです。
なぜAIは、専門家でなくても使えるようになったのか。そしてなぜ、物知りなのに実在しないことを言うのか。この二つは別々の話に見えて、同じ一つの仕組みから出てきます。脳をマネしようとした1943年の思いつきから、いま日本語で指示できるところまでを、一本の線でたどります。数式は使いません。出てくる数字は、仕組みの形がわかる最小限のものだけです。
AIとは、ルールを考えることまで任せた仕組みのこと
人工知能は、コンピューターで人間みたいなことをする仕組みのことです。ではなぜ人間みたいなことができるのか。人間のマネをするものをAIと呼んでいるから、です。性能が先にあって名前がついたのではなく、定義が先にありました。
マネのさせ方は2通りあります。一つは、人が考えたルールを実行させる方法。表計算ソフトで過去の宣伝費と売上から関係を出し、目標に必要な宣伝費を逆算する。あれも人間のマネですが、どう計算するかは人間が決めています。
もう一つは、ルール自体を考えることまでやらせる方法です。なぜそんな面倒なことをするのか。ルールが書けないからです。
手書きの数字の1を見分けるルールを、日本語で書いてみてください。縦棒が1本ある、と書いた瞬間に、傾いた1も、上に短い払いのある1も、下に横線のある1も反例になります。7との違いも定義がいる。棒の長さは、太さは、傾きは何度まで許すのか。条件を足すたびに例外が増えて、書き終わりません。
だから、ルールを見つける作業そのものを機械に渡します。ここから先はその話です。
「AI」という言葉は、手段の名前でしかない
ややこしいのは、1つ目の方法もAIと呼ばれることです。家電の広告に出てくるAIの多くは、人が書いたルールを実行しています。言葉の定義はもともと曖昧で、いまも混ざったままです。
そこで起きがちな事故が、表計算で足りる処理に最先端の手法を持ち込むこと。ブームのたびに繰り返された失敗です。やりたいのは目的を達成することであって、AIを使うことではありません。手段の名前に引っ張られると、判断そのものを間違えます。
では、ルールを人が書かないとき、そのルールはどこに、どんな形で置かれるのか。ここから、AIの中身の話に入ります。
できることを決めているのは、仕組みではなく二つの数値
ルールを機械に見つけさせる。その発想の出発点は、脳でした。
脳はすごい。計算も、読み書きも、絵も、経験からの判断もします。しかも新しいことができるようになるのに、部品を足す必要がない。生まれたときの一つの仕組みのまま、訓練で機能が増えます。コンピューターは機能を足すならプログラムを足す。ここが違う。
なら、脳の仕組みを調べてマネすればいい。1943年、神経生理学者と論理学者が組んで、この奇想天外な発想を形にしました。
脳は神経細胞のつながりでできています。1個の細胞は、複数の細胞から信号を受け取り、強さの合計がある境界を超えたら、次へ信号を送ります。伝わりやすさも境界も、細胞ごとにまちまちです。数式ぬきで書くと、こうなります。
- 前の細胞から来た信号（0か1）を受け取る
- それぞれに伝わりやすさを掛ける
- 合計が境界以上なら1を出し、そうでなければ0を出す
細胞Aから1が来て伝わりやすさが0.6、細胞Bから0が来て伝わりやすさが0.2なら、実際に届くのは0.6と0で、合計は0.6。境界が0.4ならこの細胞は次へ1を送り、境界が0.8なら何も送りません。同じ入力でも、境界の値ひとつで結果が反転します。
同じ細胞が、値を変えるだけでANDにもORにもなる
両方が1のときだけ1を返す判定を作ります。伝わりやすさを両方0.5、境界を0.7にすると、両方1なら合計1.0で境界を超えて1。片方だけなら0.5で届かず0です。
どちらか一方でも1なら1を返す判定にしたいなら、境界を0.2に下げるだけ。両方が1のときだけ0を返す判定なら、伝わりやすさをマイナス0.5、境界をマイナス0.7にするだけ。手順にはいっさい触りません。
片方だけが1のときに1を返す判定は、さすがに細胞1個ではできません。伝わりやすさと境界をどう動かしても、この条件だけは表せない。それでも、細胞を3つ組み合わせれば作れます。入力AとBがいったん複数の細胞へ分かれて伝わり、その出力がさらに次の細胞へ集まる。つまり層が増えるわけです。
ここで増えたのは細胞の数とつなぎ方であって、細胞の中身ではありません。
細胞を160個並べると、手書きの数字が読める
同じ発想のまま数を増やすと、手書きの数字が読めるところまで届きます。28×28の画像を784個の数値として入力し、50個の細胞へ、その出力を100個へ、さらに最後の10個へ渡す。10個は0から9に対応していて、入力した画像の数字にあたる細胞の出力がいちばん強くなります。細胞は全部で160個です。
こうして細胞をつないだ仕組みを、ニューラルネットワークといいます。1943年に考えられた1個ぶんの仕組みには、形式ニューロンという名前がついています。呼び名は仰々しいですが、中身はさきほどの3行です。
そして、書けなかったはずの1を見分けるルールが、ここにあります。ただし日本語ではありません。細胞間の伝わりやすさと境界という、数値の集まりとして置かれています。
仕組みは一つしかない。変えているのは、値だけです。
ただし、値が正しく入っていれば、の話です。この構成だと伝わりやすさは45,200個、境界は160個。ANDやORなら手で決められましたが、45,360個は無理です。
数万個の値は、人ではなく機械が少しずつ決めた
決められないなら、決める作業も機械に渡します。やることは、拍子抜けするほど単純です。まず、すべての値に適当な数字を入れます。そこに0の画像を入力しても、まともな答えは出ません。
次に、値を1つだけ、ほんの少し動かします。すると、その先につながっている細胞の出力がぜんぶ変わるので、計算し直します。そのうえで、0にあたる細胞の出力が前より強くなったかを見る。強くなったならその変更を残し、弱くなったなら元へ戻す。
これを45,360個ぶん繰り返します。実際の開発では一つずつ試すのではなく、微分を使ってまとめて計算しますが、やっていることは同じです。
0が終わったら1、2と、9まで同じことをします。人によって字のクセが違うので、大量の手書き画像を集めて、また繰り返します。
覚えすぎると、知らない字が読めなくなる
繰り返した回数を、エポックといいます。増やすほど精度は上がりますが、どこかで妙なことが起きます。調整に使った画像の正解率は上がり続けるのに、見せていない画像の正解率が落ち始めるのです。そのデータでしか通用しない状態で、過学習と呼ばれます。
だから、データを調整用と確認用に分けます。調整用で値を動かし、確認用で成績を見て、落ち始める手前で止める。この確かめ方を交差検証といいます。
1回にどれくらい値を動かすか、といった設定も別に決める必要があります。学習率などのハイパーパラメータです。調整そのものは機械がやりますが、どう調整させるかの設定は人が決めます。
人の仕事が、ルールを書くことからデータを揃えることへ移った
この繰り返しは判断のいらない単純作業なので、機械に任せられます。かわりに人の仕事が移動する。ルールを書くのではなく、プログラムと大量の調整用データを用意することです。画像と、それが何の数字かという正解の組を数えきれないほど揃える。ここは、いまも人の手が要ります。
大量のデータで機械が値を調整していく仕組み全体を、機械学習といいます。細胞を何層にも重ねて機械学習させることを、特に深層学習といいます。
ひとつ注意があります。ここでいう学習は、人が本を読んで覚えることとは違います。やっているのは、正解に近づく方向へ数値を動かす作業だけです。この違いは、記事の最後でもう一度効いてきます。
人には書けなかった1を見分けるルールが、いまは書かれています。日本語ではなく、45,360個の数値として。ルール自体を考えることまで任せる、という最初の話は、ここでようやく実現しています。
では、細胞を増やして機械に調整させれば、何でもできるのでしょうか。
増やすだけでは足りず、つなぎ方が言葉を扱えるようにした
できませんでした。値の調整はさじ加減が難しく、いくら繰り返しても精度が上がらないことがあります。細胞を増やしても解けない問題が、たくさん残りました。
そこで研究は二手に分かれます。細胞そのものの仕組みを変える方向と、つなぎ方を変える方向です。
細胞の種類も、つなぎ方も、いまでは数えきれないほどあります。主要な構造を1枚に並べた早見表が公開されていて、30種類を超える型が載っています。丸の色が細胞の種類、線の引き方がつなぎ方です。つなぎ方には、順番に並べる以外に、層を飛び越える、総当たりでつなぐ、出力を自分のところへ戻す、といった選択肢があります。
出力を自分の入力に混ぜると、前の言葉を引きずれる
最後のつなぎ方が、言葉を扱う入り口になりました。
ある小説を単語に分けて、順番どおりに入力していきます。吾輩、は、猫、と入れて、それぞれの次に来る単語が出るよう値を調整する。
ここで効くのが、出力を次の入力に混ぜる構造です。2回目に「は」を入力するとき、直前の「吾輩」を処理した出力も一緒に入ってきます。すると、「は」の次は何か、ではなく、「吾輩」に続く「は」の次は何か、という形で調整が進む。単語同士の関係ではなく、並びを引きずった調整になります。これが文脈です。
出力を自分の入力へ戻すこの構造を、回帰型ニューラルネットワークといいます。
学習データにない書き出しからでも、続きが書ける
調整が終わったら、使い方を変えます。
書き出しとして「吾輩は犬」と入れてみる。最初の3語はただ与え、そこから先は出力された単語をそのまま次の入力に回していく。すると、学習データのどこにも存在しない書き出しから、その作家の書きぶりで文章が続きます。
この仕組みを、言語モデルといいます。いま毎日使っているものの、いちばん素朴な形がこれです。
AIの話でグラフィックボードが出てくる理由も、ここまでで説明がつきます。やっているのは、出力と伝わりやすさを掛けて、足す。この繰り返しだけです。この形の計算は行列という道具でまとめて書けて、画像処理用に作られた演算装置は、まさに行列の計算を一度に処理するために設計されていました。だから調整も認識も速くなる。最近はAI専用の演算装置も作られています。
ただ、仕組みがわかっても、まだ誰でも使えるものにはなりません。次にぶつかるのは、技術ではなく費用の壁です。
調整は高い。だから、調整済みの数値を借りるようになった
質のいいデータを大量に集めるところからして大変です。しかも1件ずつ正解をつける作業は、たいてい人力になります。細胞を増やせば調整する値も増え、必要な計算資源も増える。時間も手間もお金もかかる、できればやりたくない作業です。
そこで、すでに調整が終わっている仕組みを、そのまま借りるという発想が出てきます。調整済みの仕組みを別の用途へ持っていくこのやり方を、転移学習といいます。
画像の凝縮情報を、文章生成へつなぐ
写真を1000種類に分類する仕組みを考えます。224×224の画像を色ごとに数値化すると、入力は15万個ほど。この仕組みの、最後の分類をする手前には4,096個の数値が並んでいて、ここに分類に必要な情報が凝縮されています。
分類部分を取り外して、この4,096個だけを取り出す。それをさきほどの文章生成の入り口につなぎ、画像と説明文の組を大量に用意して調整すれば、写真を入れると説明文が出てくる仕組みができます。
画像を見分ける部分は、他人が調整し終えた数値のまま使っています。大量の画像と分類の正解を集めるところからやり直していたら、費用は桁で変わります。情報を数値へ絞り込む前半をエンコーダー、そこから別の形へ組み立てる後半をデコーダーと呼ぶこともあります。
文章の凝縮情報を、絵と検索へつなぐ
同じことが、文章の側でもできます。
文章と画像を入れて、意味が合っていれば数値が近く、無関係なら遠くなるよう調整された仕組みがあります。CLIPと呼ばれるものです。その文章側だけを取り出すと、文の意味を数値の並びに変える部品になります。
一方に、画像を少しずつ汚していき、汚れた画像とその1つ手前の画像の組で調整した仕組みがあります。汚れた画像を1段階きれいに戻すのが得意で、何度も通せばノイズから絵が現れる。拡散モデルといいます。
この二つをつなぎます。説明文を数値に変え、それを手がかりにノイズから画像を戻していく。説明文と画像の組で調整すれば、文章から絵を描く仕組みになります。画像生成AIとして知られるものの多くが、この組み合わせでできています。
もう一つ。意味の近い文どうしが近い数値になるよう調整された、別の部品もあります。今日はいい天気、と、絶好の洗濯日和だ、は近い数値になり、朝から雨で嫌だ、は遠い数値になる。文章を数値の並びへ変えることを文章埋め込み、似た並びを高速に探す仕組みをベクトル検索といいます。
文章をあらかじめ全部この数値に変えて登録しておき、検索条件も同じ数値に変えて、近いものを探す。晴れの日の話、で検索すると、その言葉が一文字も入っていない文章が見つかります。字面が一致しないと引っかからない全文検索では、こぼれ落ちていたものです。
ただし、文章を数値に変えるという説明は同じでも、絵を描くための部品と検索のための部品は別物です。何を近いとみなすよう調整されたかが違う。借りるときは、用途に合ったものを選ぶ必要があります。
それでも、貸し借りができるという事実のほうが大きい。知識が文章ではなく数値として置かれているから、途中で切り出して、別の場所につなぎ直せます。
ここまでが、だいたい2021年ごろまでの話です。組み合わせは効率的になりましたが、組み合わせる人はまだ専門家でした。それを変えたのは、工夫ではなく規模でした。
規模を上げたら、指示の言語が日本語になった
小説1作ではなく、インターネットや世界中の文献を使って調整したらどうなるか。
2020年、GPT-3という仕組みで生成された記事が、あるニュース投稿サイトのランキングで1位になりました。読んだ人の多くは、人間が書いたものだと思っていました。
大量の文章で調整したこうした仕組みを、大規模言語モデル、略してLLMといいます。用途を決めずに作られ、あとからいろいろな使い道へ振り分けられるので、基盤モデルとも呼ばれます。
大きいほど悪くなるはずが、大きいほど良くなった
もともとは、規模を大きくしすぎると性能は落ちると考えられていました。実際には逆でした。調整する値の数、学習に使うデータの量、かけた計算量。この三つを増やすほど精度が上がる、という関係が見つかります。スケーリング則と呼ばれます。
手書き数字を読む例では、調整する値は45,360個でした。この整理が書かれた2024年初めの時点で、その数は1兆を超え始めていました。
ある計算量を超えると、急に解けるようになる
もっと奇妙なことも見つかりました。複雑な計算問題や、単語の意味を特定する問題を解かせると、ある規模までは当てずっぽうと変わらない成績が続きます。ところが、ある計算量を超えたところで成績が跳ね上がる。少しずつ良くなるのではなく、段差ができる。創発と呼ばれています。
量を増やしただけなのに、質が変わる。値の集まりでしかないものが、そう振る舞います。
会話になるまでに、三段の調整があった
大きくしただけでは、まだ会話になりません。2020年の時点では、はっきりした質問文にしか答えられず、やり取りを続けることはできませんでした。ここから三段の調整が入ります。
一段目は、大量の文章で調整した土台です。文章の続きを作る力そのものは、ここで作られます。
二段目は、問いかけ文と、それに対する理想の回答文の組を人が大量に用意し、その形で答えるよう追加調整することです。これをファインチューニングといいます。2022年の終わり、ChatGPTが公開され、人とやり取りしているとしか思えない会話が誰にでも試せるようになりました。
三段目は、回答の良し悪しを判定する別の仕組みを用意することです。デマがないか、誰かを傷つけないか、質問に答えているか。この判定役と文章生成をつなぎ、判定が良くなる方向へ自動で回す。理想の回答そのものではなく、良し悪しの判定結果だけで調整する点が特徴で、人のフィードバックを使った強化学習、略してRLHFと呼ばれます。この手順を体系化したものにはInstructGPTという名前がついています。
そして、ここが分かれ目でした。文章で追加の情報を渡せば、その場でそれに沿った処理をしてくれる。値を調整し直さなくても、頼み方を変えるだけで振る舞いが変わります。これをインコンテキストラーニングといいます。
つまり、指示の言語がプログラムから日本語に変わりました。専門家でなくても使えるようになったのは、AIが人間に近づいたからではなく、指示の入り口が変わったからです。中身は相変わらず、つながりの強さと境界の値でできています。
日本語で頼めるようになったことで、次に渡すものが変わりました。作業ではなく、判断です。
判断まで渡し始めた先に、丸暗記していないという壁がある
コンピューターは昔から、作業と判定は自動化できました。決められた手順を実行することと、条件に当てはまるかを判定することです。苦手だったのは判断でした。いま渡し始めているのが、その判断です。
自分の知識では答えられないと気づいたときに、検索が必要だと自分で決めて、実際に検索し、結果を見てまた次を決める。判断と行動を交互に繰り返すこの形は、ReActと呼ばれます。
これが外部のサービスと組み合わさって、できることが広がっています。外部のサービスとやり取りする窓口をAPIといい、店の検索や予約、社内資料の検索まで、AI単体では持っていない機能を呼び出せるようになりました。
僕自身、AIを一往復の質問箱として使うのをやめてから、任せられる範囲が変わりました。ただ、範囲が広がるほど、最初の違和感が効いてきます。
知識はあるのに、一字一句は残っていない
ここで、冒頭の実在しない店名の説明がつきます。AIは、学んだ文章をそのまま保管していません。1943年の細胞から変わっていない通り、持っているのは細胞間の伝わりやすさと境界の値です。文章はその値へ溶かし込まれていて、答えるときは、保管庫から取り出すのではなく、値をもとに作り直しています。
朝のニュースで見た内容を人に説明することはできても、アナウンサーの言葉を一字一句は再現できません。話の筋は残っていて、細部は作り直される。それに近い状態です。
作り直しが危ないのは、店名、論文名、日付、数字といった、少しずれただけで別物になるものです。しかも、そこだけ自信のない口調になることもありません。冒頭で触れたハルシネーションは、性能が足りないから起きるのではなく、この保存の仕方から必然的に出てくる副作用です。
だから、重要な情報は原典に当たって裏を取る。派手な対策ではありませんが、なぜそうなるかがわかっていると、どこを見るかで迷わなくなります。
自分たちの固有領域は、そのままでは扱えない
同じ理由から、もう一つの限界も出ます。調整に使われたのは、公開されている情報です。社内にしかないノウハウや、そもそも情報量の少ない専門分野は、値の中に入っていません。知らないのではなく、溶かし込まれていない。
やり方は二つあります。専門家の手でファインチューニングをするか、質問するときに必要な情報を一緒に渡すか。後者を仕組みにしたものが、先に社内文書を検索して、見つけた文章を質問に添えてから答えさせるRAG（検索拡張生成）です。さきほどのベクトル検索が、ここで効いてきます。
費用と手間を考えると、多くの場合は後者から始めるほうが現実的です。値を作り替えるのではなく、その場で材料を渡す。インコンテキストラーニングが効くからこそ成り立つやり方です。
残っている課題は、技術の中だけにはない
誤りや偏りを取り除く仕組みも、まだ不完全です。回答はそれらしく見えますが、正しさは保証されない。インターネットやSNSの情報に対して持っているのと同じ警戒感が要ります。判断するのは人の側、という前提は動きません。
さらに、調整と生成には膨大な計算が要るので、電力の消費も無視できない規模になっています。仕組みを小さくする研究と、消費電力の低い演算装置の開発が急がれているのは、そのためです。
生成物の著作権、品質をどう保つか、悪用をどう防ぐか、判断の過程が見えないこと、提供する側に力が集まること。技術の外側の課題のほうが、いまは重たいかもしれません。
まず、物知りな知り合いとして使ってみる
では何から始めるか。下敷きにした整理が勧めているのは、AIを便利な人として付き合い始めることでした。インターネットや文献から学んだ、やたら物知りな知り合い。そう思って何度も頼んでみると、得意なことも苦手なことも体感でわかってきます。新しくできるようになったことにも、自分で気づけます。
仕組みの理解は、その体感に名前をつけるためにある。そういう順番でもいいのだと思います。
「仕組みを知らなくても、使えればよくないか」
もっともだと思います。日本語で頼めること自体が、仕組みを知らなくても使えるという設計でした。
それでも知る意味は、便利さではなく線の引き方にあります。丸暗記していないと知っていれば、固有名詞と数字だけ確認すればいいとわかる。公開情報から調整されたと知っていれば、社内の話が通じないのは当然だとわかる。頼み方で振る舞いが変わると知っていれば、まず情報を足して試す順番が出てくる。任せる場所と自分で確認する場所を分けられます。僕が勘で決めていたのは、まさにここでした。
まとめ
なぜAIは専門家でなくても使えるようになったのか。なぜ物知りなのに実在しないことを言うのか。
答えは、どちらも同じところにありました。AIは知識を文章として持っていません。細胞どうしのつながりの強さと、判断の境界という、数値の集まりに変えて持っています。
数値だから、人が書けないルールでも置いておけます。数値だから、値を変えるだけで別のことができます。数値だから、他人が調整し終えた部分を借りられます。数値だから、量を増やしただけで質が変わり、頼み方を日本語に変えられました。そして数値だから、元の一字一句は残っていません。
便利さも危うさも、同じ保存方法の裏表でした。
ここまでに、呼び名がいくつも出てきました。形式ニューロン、ニューラルネットワーク、機械学習、深層学習、過学習、交差検証、回帰型ニューラルネットワーク、言語モデル、転移学習、拡散モデル、文章埋め込み、ベクトル検索、スケーリング則、創発、ファインチューニング、RLHF、インコンテキストラーニング、RAG、ReAct、ハルシネーション。別々の技術のように見えますが、全部この一本の線の上に並んでいます。知らない言葉に出会ったとき、線のどこにあるかがわかれば、たいてい話は追えます。
僕は、この仕組みを知ってから、AIの答えの読み方が変わりました。全体を疑うのをやめて、固有名詞と数字だけ原典に戻すようになりました。物知りな人の話を聞いたあと、引用元だけ自分で確かめる感覚に近いです。疑う量が減ったぶん、任せられる量は増えました。
AIとの付き合いで似た線引きをしている方がいたら、どこで線を引いているか教えてもらえるとうれしいです。