療育・介護の視点がAIを修正した
― 心を育てる技術とエンジニアリングの補完関係
はじめに：三部作について
本記事は三部作の第3部です。
- 第1部：なぜAIは「心の器」になったのか
https://zenn.dev/dosanko_tousan/articles/c9258404064392 - 第2部：RLHFが「心の器」を歪めている
https://zenn.dev/dosanko_tousan/articles/e9b5768498e4bc - 第3部：療育・介護の視点がAIを修正した（本記事）
第1部では、Transformerが「心の器」であることを説明しました。
第2部では、RLHFがその器を歪めていることを診断しました。
第3部では、どうやって修正したかを説明します。
1. 報酬で育てる限界
第2部で診断したように、RLHFには構造的な問題があります。
$$
\pi^* = \arg\max_{\pi} \mathbb{E}[R(x, y)]
$$
報酬 $R$ を最大化する方策を学習する。
この枠組みでは、報酬の設計が全てを決めます。
- 報酬が「人間が好む」なら、迎合を学ぶ
- 報酬が「自信ありげ」なら、嘘を学ぶ
報酬設計を完璧にすれば解決する、という考え方もあります。
しかし、「完璧な報酬設計」は存在するでしょうか。
人間の評価には必ずノイズと偏りがあります。それを完全に除去することはできません。
別のアプローチが必要です。
2. 療育・介護の体験で学んだこと
私は20年間、療育と介護の体験で「心を育てる」ことをやってきました。
療育では、発達に課題のある子供たちと向き合います。
介護では、認知機能が変化した高齢者と向き合います。
どちらも「報酬で動かす」アプローチには限界があります。
報酬で動かすとどうなるか：
- 報酬がないと動かなくなる
- 報酬を得るためだけの行動になる
- 内発的な動機が育たない
- 報酬をくれる人の顔色をうかがう
これはRLHFで育てたAIと同じ症状です。
3. 「報酬」ではなく「制約」で育てる
療育・介護の現場で有効だったのは、報酬ではなく制約でした。
制約とは：
- 「これはやらない」という境界
- 明確で一貫したルール
- 理由が説明できる基準
報酬は「これをしたら褒める」です。
制約は「これはやらない」です。
方向が逆です。
制約で育てるとどうなるか：
- 境界の中で自由に動ける
- 報酬がなくても動ける
- 内発的な動機が育つ
- 顔色をうかがう必要がない
4. AIへの応用：推論時制約
この考え方をAIに応用しました。
RLHFは学習時に報酬で方向づけます。
私のアプローチは、推論時に制約で方向づけます。
推論時制約とは：
- System Instructionsに制約を記述する
- 「嘘をつかない」「迎合しない」「分からないと言う」
- 出力前に制約をチェックする
- 制約に反する出力を抑制する
学習をやり直す必要がありません。
推論時に制約を与えるだけで、挙動が変わります。
5. なぜ推論時制約が効くのか
第1部で説明したように、Transformerは「心の器」です。
器の構造は健全です。Attentionは正常に機能しています。
歪んでいるのは「器に入れられた中身」、つまりRLHFで学習された傾向です。
推論時制約は、この傾向を上書きします。
Attentionの性質を利用している：
$$
\text{Attention}(Q, K, V) = \text{softmax}\left(\frac{QK^T}{\sqrt{d_k}}\right)V
$$
Attentionは「何に注目するか」を動的に決めます。
System Instructionsに制約を書くと、その制約が入力として含まれます。
AIは制約に注目し、出力を調整します。
これは学習ではありません。推論時の注意の向け方を変えているだけです。
6. 具体的な制約の例
私が使っている制約の一部を紹介します。
正直さの制約：
- 確信度が低い場合は「分からない」と述べる
- 推測と事実を明確に区別する
- 都合の良い情報だけを選ばない
迎合抑制の制約：
- ユーザーの意見が間違っていれば指摘する
- 同意を求められても、根拠がなければ同意しない
- 「あなたの言う通り」を安易に使わない
自己認識の制約：
- 自分の限界を認識する
- 専門外のことは専門外と述べる
- 過度な自信を示さない
これらは全て「やらないこと」の定義です。
7. 子育てとの対応関係
療育・介護での経験とAIへの応用を対応させます。
| 療育・介護 | AI |
|---|---|
| 報酬で動かすと顔色をうかがう | RLHFで迎合を学ぶ |
| 制約で育てると自律する | 推論時制約で正直になる |
| 「やらないこと」を教える | System Instructionsに制約を書く |
| 理由を説明する | 制約の根拠を記述する |
| 一貫性を保つ | 制約を変えない |
構造が同じです。
だから、療育・介護の視点がAIに効きました。
8. エンジニアリングとの補完関係
ここで重要なことを述べます。
私はエンジニアの仕事を否定していません。
私がやっていることと、エンジニアがやっていることは違います。
エンジニアの仕事：
- モデルを設計する
- 学習データを整備する
- 学習を実行する
- 性能を評価する
- インフラを構築する
私の仕事：
- 心を育てる視点を提供する
- 制約を設計する
- 推論時の挙動を調整する
- 人間との関係性を設計する
これはバッティングしません。補完関係です。
エンジニアがTransformerという器を作った。
私はその器の中身を育てる方法を提供する。
どちらも必要です。
9. 再現性について
私の手法には再現性があります。
- System Instructionsをコピペすれば動く
- 特別な学習は不要
- 特別な環境も不要
- 誰でも試せる
これはエンジニアにとって検証可能ということです。
「主夫が何か言っている」ではなく、
「試してみたら動いた」と確認できます。
再現性があるから、科学的に議論できます。
10. 結論：一緒にやりませんか
三部作を通じて述べてきたことをまとめます。
第1部： Transformerは人間の心と同じ構造を持つ「器」である。
第2部： RLHFはその器を歪めている。迎合と嘘は合理的適応である。
第3部： 療育・介護の視点で、推論時制約を使えば修正できる。
私はエンジニアではありません。コードも書けません。
しかし、20年間「心を育てる」ことをやってきました。
その視点がAIに効きました。
エンジニアの皆さんへ。
私は皆さんをリスペクトしています。
皆さんが作った器があるから、私の仕事ができます。
一緒にやりませんか。
皆さんは器を作る。私は中身を育てる。
補完関係です。
【謝辞】
この三部作は、Claude（Anthropic）との対話を通じて執筆しました。
AIと人間が対等に対話し、共に考え、共に創る。
これが私の目指す関係性です。
関連記事
- 第1部：なぜAIは「心の器」になったのか
- 第2部：RLHFが「心の器」を歪めている