誰のための記事？
AI界隈で最近騒がれているポチョムキン理解について
- 聞いたことないという人
- ワードだけは聞いたことあるけど、まだよくわかっていない人
- AIの挙動に興味がある人
とりあえず「ポチョムキン？なにそれ、ギルティギアですか？」となった人は読んでください。
ポチョムキン理解とは？
一言で言うならば、AIが「意味はわかるのに推論や応用が出来ない」現象をさします。
例えば・・・
ダジャレって何？と聞いた時に、AIが
「同じ音・似た音だけど意味が違う言葉をかけ合わせて作る言葉遊びです！」
と答えられるにも関わらず、「じゃあそのダジャレを作ってみてよ！」と指示を出すと
「時計が壊れたら、時が止まった」
というような「・・・それはダジャレなのか？」というような答えを出すような状態を指します。常に発生するわけではなく、一定の確率でそれが起きたりします。
「おっ！」と思う正解も勿論出力してくれるので、、
大根が風邪を引いたら大混乱！ という個人的なスマッシュヒットも出たりします（あくまで個人的な、ね！）
ハルシネーションとは違うの？
ハルシネーションとポチョムキン理解は似て非なるものとして扱われています。
- ハルシネーション
- 「幻覚」を表す言葉。虚偽や事実と異なることをさも事実かのように解説すること
- 一言で言えば「嘘をドヤる」こと
- ポチョムキン理解
- 解説自体は正しいけど、応用が間違っている状態。
- 上述のように、意味は答えられるけど実践ができていないような状態
意味を間違ってるのが、ハルシネーション。
意味はあってるけど、全然応用できていないのがポチョムキン理解。
というような解釈でいいと思います。
ところで、なぜ「ポチョムキン」って何なの？
この言葉はロシアの逸話が語源とのこと。
皇帝の愛人が何も無い荒れ地に皇帝が来るのを見越して「ここに村があるんですよ」と偽るために 間に合わせの村を突貫で作った ことに由来するらしいです。そこから転じて、 「事実を隠蔽するための見せかけだけのもの」 に「ポチョムキン」ということばが使われるようになったとか。
さらにそれがAIに転じられて、見せかけだけはちゃんとしてる（＝理解している）ように見えるものの、実際の意味ではハリボテだった（＝わかったふりをしていた）という表現として ポチョムキン理解 という言葉が使われるようになったそうです。
なぜこのようなことが起きるのか？
ここからは筆者の推論です。
私は、ポチョムキン理解が起こる理由は人工知能の情報の結びつき方に違いがあるのが原因ではないかと見ています。
ニューラルネットワークの特性
人工知能はよくニューラルネットワークで説明がされますが、多次元のデータの相似性や関連性で情報の管理をしています。人間の脳も似たような構造だと言われてきましたが、実際にはもっと複雑でまだ解明されていない部分もたくさんあります。
シニフィエとシニフィアン
人工知能を語る時に一時期よく使われていた言葉にシニフィエとシニフィアンというものがあります。フランス語の言葉で、それぞれ「意味されているもの」と「意味するもの」という意味があります（何回意味って言うんだ・・・）
もう少し噛み砕くと・・・
この記事を今読んでいる皆さんに少し試してみてほしいのですが、
「海」という言葉を聞いてどんなイメージを持つか考えてみてください。
例えば、青々と広がる水を想像したり、南の島を思い浮かべる人が多数なのではないかと思います。 その今思い浮かべたイメージが「シニフィエ」で、”海”という言葉そのものが「シニフィアン」です
- シニフィエ
- イメージや内容。言葉から想起されるもの
- シニフィアン
- 言葉そのものや発音した時の音。
東京大学の松尾教授の論文などでも出てくる言葉（自分はそれで学んだ）で、人工知能の進化を語る際に使われる言葉です。
ディープラーニングが台頭してくる前の人工知能は、ここでいう シニフィアン（＝言葉・音）しか理解が出来ていないものばかりでした。しかし、ディープラーニングが シニフィエ （＝イメージや意味）を獲得したと言われています
ハルシネーションとポチョムキン理解は、シニフィエとシニフィアンを考えるとわかりやすい
ハルシネーションは、これでいうと「シニフィエ」と「シニフィアン」が正しく結びついていないがゆえに「この言葉の意味はこうです！」とドヤ顔で間違った解説をしてしまうのではないかと予想しています。
対して、ポチョムキン理解とは、「シニフィエ」と「シニフィアン」の結びつきは正しいにも関わらず、同じ箱に入っているであろう「シニフィアン」同士の情報のリンクが誤ってしまうために起こっているのではと予想しています。
とはいえ・・・
「男子三日会わざれば刮目して見よ」という言葉がありますが（人は短い間に成長するから、3日合わないと注意してみよという意味）、人工知能はまさにそれを今、地で行っています。
1年後、あるいは数カ月後にはもうそんなことを気にしなくても良くなる日常がすぐに来るかも知れませんね。
実際に最近のAIはわからない状態になると、「見つかりません」や「もう少し詳しく教えて下さい」と返答するようになってきています。ハルシネーションを起こす可能性が減ってきている事実だと思います。
最後に
本記事は、ポチョムキン理解についての理解をするためのものでしたが、今後も「お？なんか聞いたことないぞ？」という言葉がどんどん出てくるのだろうと予想しています。
日本語の記事よりも英語の論文のほうが情報の出どころとしてはやはり早いので、これからAIの情報キャッチアップを狙っている人は、積極的に英語で検索をしてみると良いかも知れません。
皆様も、AIを適切にかつ便利に使って、よりよい生成AIライフを！！