AIに仕事を任せると、なぜか斜め上の成果物が返ってくる。
それは「嘘」じゃない。AIはただ、もっともらしさに忠実すぎるだけだ。
この記事は、AIを「確率的に文字列を生成する道具」として正しく捉え直し、業務で安定した成果を出すための考え方をまとめたものです。
大前提：AIとは何をしている道具か
AIは、学習済モデルとプロンプトから「もっともらしい文字列の連続」を生成する道具である。
ここでの「もっともらしい」とは、学習済モデル上で次に来る確率が最も高い、という意味です。だから、私たちが本当に欲しいものは、こう書けます。
我々が求める成果物 = AIの学習済モデル + 我々固有の要件
学習済モデルだけでは「世間一般のもっともらしさ」しか出ません。そこに固有の要件を足して初めて、私たちにとってのもっともらしさになります。
「AIが嘘をつく」の正体
「AIが平気で嘘をつく」とよく言われます。でも実態は嘘ではなく、確率生成器としての挙動が2つの原因で私たちの期待からズレているだけです。
原因① 一度ハズレを引くと、ハズレを基準に「もっともらしく」突き進む
AIは常に「次に来る確率が最も高い文字」を選びます。ところが、どこかで外れ値を引いてしまうと、その外れ値を基準にして、そこから先の「もっともらしさ」を連続生成します。
スタート地点がズレているのに、その後は忠実にもっともらしく繋げていく。結果、私たちから見れば「まったくもっともらしくない文字列」が完成します。
原因② そもそも我々固有の要件を伝えきれていない
学習済モデルは一般論しか知りません。私たちの前提・制約・好みを渡しそびれていると、AIは一般論の中で最ももっともらしいものを返してきます。それが私たちの要件と合わない。
結果：成果物は"扇形"に分散する
この2つが重なると、生成される文字列は、私たちが求めるゴールに対して扇形に・樹形図的に分散していきます。最初の小さなズレが、後段になるほど大きく開いていく。これが「嘘をつく」の正体です。
欲しいゴール
★
/|\
/ | \ ← 序盤の小さなズレが
/ | \ 後段で扇形に拡大する
/ | \
出力 出力 出力
だからこそ：AIを使うときに気をつける5つのこと
扇形の分散を抑え込むには、入口を絞り、途中で確認し、外せる処理は外すのが鉄則です。
① 作業前に、できる限りの情報を与える
扇の根元（スタート地点）のズレを潰すのが最もコスパが良い。前提・制約・ゴール・サンプルを先に渡す。
② 与えた情報が正しく理解されているか、途中で確認する
計画書や中間成果物を出させて、扇が開ききる前にズレを検知する。「いきなり完成品」を狙わない。
③ 決定論的な処理は、外部ツールに任せる
答えが一意に決まる処理を確率生成器にやらせてはいけない。検討し尽くされたアルゴリズムを借りる。
- 合計金額を計算する
- 日付を比較する
- CSV をパースする
- バリデーションする
- 差分を検出する
- DB の制約で一意性を保証する
④ 幾何学的な処理も、外部ツールに任せる
座標・レイアウトのような幾何計算も確率生成器は苦手。
- 画像の座標を計算する
- UI 要素の位置を揃える
- PDF や Figma のレイアウトを再現する
- 差分画像を比較する
- 矩形の重なりを判定する
⑤ 大域的な判断は、人間がする
「この方向で本当にいいのか」という全体最適の判断は、確率生成器ではなく人間の仕事。
まとめ：AIは「確率のサンドイッチ」で挟んで使う
決定論的・幾何学的な処理を外部ツールで固め、その間にAIの生成を挟む。さらに人間が両端からレビューで挟む。これが扇形の分散を制御する基本形です。
AIは嘘をつかない。もっともらしさに忠実なだけ。
ならば私たちの仕事は、「私たちにとってのもっともらしさ」を、入口で渡し、途中で確かめ、外せる処理は外すこと。それだけだ。
この考え方が刺さったら、ぜひ LGTM で教えてください 🙌