概要
AIに関するさまざまな問題について解説します
画像はgemini3.0によって生成しています。
G検定を受けるなら知っておこう
トイ・プロブレム
現実の諸問題をコンピュータ上で取り扱うためには、問題を簡略化します。
つまり、問題をおもちゃに落とし込むようなものです。
現実のスポーツは、体の鍛え方や動かし方とか、複雑な戦略とかを考える必要があります。
しかし、おもちゃやゲームでは、矢印キーで移動したり、決められた戦略から選んだりと、簡略化されています。
このように、簡略化された問題をトイプロブレムと呼びます。
未だに、AI技術は、トイプロブレムしか解けませんが、それでも、非常に現実の問題に近いトイプロブレムも解けるようになってきています。
フレーム問題
時限爆弾が設置された建物から大事な情報が含まれるPCを回収するため、ロボットを向かわせました。
1回目では、ロボットはPCを回収できましたが、実はそのPCに時限爆弾が取り付けられていました！
そこで、回収したものが安全なものかを考えるようにプログラムを更新しました。
2回目では、ロボットはPCの前で考えます。この時限爆弾をただ取るだけで安全になるのだろうか？他にも危険なものが取り付けられていないだろうか？PCを動かすことで建物のバランスが崩れて倒壊するのでは？
その結果、PCの前でロボットがフリーズしてしまいました。
そこで、関係のあることだけを考えるようにプログラムを更新しました。
3回目では、ロボットは建物の前で考えます。私は何について考えるべきだろうか？時限爆弾の威力は関係あるだろうか？この建物の所有者は関係あるだろうか？そこに落ちている小石の重さは関係あることだろうか？
その結果、建物の前でロボットがフリーズしてしまいました。
フレーム問題とは、上の例のように、現実の問題と関係のあることだけを選ぶことが非常に難しいという問題のことです。
人間は無意識に関係のありそうなことだけを考えていますが、本当にそれだけが関係のあることかと聞かれると、自信をもって答えることができません。
実際に、関係のあることを見逃すことがあると思います。
これは、現実問題における選択肢の多さに起因します。そのため、トイプロブレムではフレーム問題は起きにくいです。
チューリングテスト
チューリングテストとは、被験者にチャットシステムを介して対話させ、対話相手が人間とAIのどちらかを判定させるテストです。
これによって、被験者の多くが、AIを人間と判定した場合は、AIに知能が認められるとします。
強いAIと弱いAI
強いAIとは、人間の心を再現できるAI、または、人間の心をAIが再現可能と考える立場を指します。
弱いAIとは、人間の心を再現できないAI、または、人間の心をAIが再現不可能と考える立場を指します。
強いAIの立場では、AIを一つの自律した存在と考え、弱いAIの立場では、AIをただの道具と考えます。
中国語の部屋
中国語のいかなる受け答えにも完全に対応できる中国語マニュアルがあるとします。
中の見えない部屋にいる中国語を話せない人物は、そのマニュアルを用いて完璧に中国語で受け答えをし、外から話しかける中国人は、全く違和感を覚えません。
このとき、この人物は、中国語を全く理解していないのにチューリングテストを通過してしまいます。
上記の思考実験を中国語の部屋と呼びます。
中国語の部屋は、弱いAIの立場を説明するために提案され、チューリングテストの通過が知能を認める基準として不適であることを指摘しました。
現在のchatGPTなどのサービスは人間のような対話が可能であり、知能があるように感じますが、果たして、このAIモデルは人間の言葉を真の意味で理解しているのでしょうか？
シンボルグラウンディング問題
これは、記号と対象の結び付けが難しいという問題です。
たとえば、シマウマを初めて見た日本人は、たいていが、それがシマウマだと分かります。なぜなら、シマウマを見ると、シマのあるウマで、シマウマだろうと考えることができるからです。
しかし、コンピュータはシマやウマなどの単語を文字情報として理解しているにすぎず、それがどういうイメージをもつのかを知りません。そのため、シマウマを見ても、シマというイメージやウマというイメージを想起することがありません。
この問題は、身体性の欠如によって起きるとする説があります。
身体性というのは、物理的な体をもつということです。
人間がシマのあるウマをイメージできるのは、様々なシマのあるものを触ったり観察したりする経験や、ウマの走る様子を見る経験により、あるものがシマ模様になるイメージとウマのイメージを理解したため、ということです。
コンピュータは、そういった、身体性による経験をしていないため、イメージを理解することができないということです。
おまけ
この問題が顕著に表れた面白い事例として、ポチョムキン理解があります。
これは、AIはある概念の意味や定義を正確に説明できるが、その概念を応用して問題を解決することはあまりできないというものです。
つまり、AIは丸暗記をしていたということが判明したという事例ですが、人間にも見られる現象ですね。
シンギュラリティ
現在、AIは自分を改良することができません。しかし、AIが自身を改良できるようになると、AIは爆発的に進歩します。
この転換点をシンギュラリティと呼びます。
AIには、計算資源が足りる限り、高速で、長時間、正確に作業することが可能です。その結果、シンギュラリティ以降は文明が飛躍的に進歩すると考えられています。
こうなると、人間はAIの進歩についていけず、人間がAIを制御できなくなります。
その結果AIが人間を支配するのではないかと危惧する意見があり、シンギュラリティへの対策が進められています。また、これ以上AIを進歩させるべきではないとする考えもあります。
知っておいた方がいいもの
次元の呪い
次元の呪いとは、データの特徴量が増えると、計算量や、必要なデータ数が指数関数的に増え、精度や汎化性能が低下する現象のことです。
データの特徴量が増えるということは、次元が増えるということで、高次元空間内の全ての場所に意味を持たせるためには、非常に多くのデータが必要になります。
また、高次元空間では、データ間の距離が同じようになり、距離を用いた手法の精度が低下してしまいます。
そのため、特徴量が多ければいいというものではなく、少数精鋭の方がいいということです。