AIは言葉を理解しているのか？ ソシュールとチョムスキーから考える
前回は、画像を点に分解して、コンピュータには画像がどう見えているのかを確かめました。
今回は、画像ではなく「言葉」です。
本編にコードは出てきません。10年後に読んでも、たぶん古くならない話だけを書きます。最後に、読み飛ばしてもいいおまけとして、短いコードを一つだけ置きました。
はじめに：目の前の犬を、なぜ「犬」と呼ぶのか
目の前に、一匹の犬がいるとします。僕たちはそれを「犬」と呼びます。
でも、犬が最初から「犬」という名前を持っていたわけではありません。英語ではDog、フランス語ではChienです。同じ動物なのに、呼び名は違います。
ここで、一つ疑問が出てきます。
言葉は、世の中にあるものに、名札を貼っただけなのでしょうか。
この見方を、言語学では「言語名称目録観」と呼びます。言葉とは、もともとあるものの名前の一覧だ、という考え方です。
20世紀のはじめに、これに異を唱えた人がいます。言語学者のフェルディナン・ド・ソシュールです。そして、もう一人、まったく違う方向から言葉の謎に迫った人がいます。ノーム・チョムスキーです。
この二人の考え方を入り口にして、最後に「AIは言葉を理解しているのか」を考えてみます。
1. ソシュール：言葉の意味は、ほかの言葉との関係で決まる
ソシュールは、ジュネーヴ大学で行った講義で知られています。本人は本を残さず、死後の1916年に、弟子たちが講義ノートをまとめて『一般言語学講義』として出しました。
名前と物は、必然では結びついていない
「犬」という音と、犬という動物のあいだに、自然な必然性はありません。日本語ではイヌ、英語ではドッグ、フランス語ではシアン。どれが正しいということもなく、その社会の中で「そう呼ぶことにしている」だけです。これを「言語記号の恣意性」といいます。
言葉は、世界をどこで区切るかが違う
もっと身近な例があります。
日本語には「水」と「湯」があります。冷たいか熱いかで、別の言葉になっています。一方、英語では、基本的にどちらもwaterです。熱いときはhot waterと、足して言います。
「兄」と「弟」もそうです。日本語は年上か年下かを言葉で分けますが、英語のbrotherは分けません。
同じ世界を見ていても、どこに線を引くかは、言語によって違います。言葉は、もともとある区切りを写しているのではなく、区切りそのものを作っています。
(念のため書いておくと、これは単純化した例です。waterと「水・湯」は、きれいに一対一で対応しているわけではありません。)
同じものを指していても、「価値」が違う
ソシュール本人が使った、一番有名な例があります。
英語のsheepと、フランス語のmouton。どちらも、あの羊という動物を指します。ところが、英語には羊の肉を指すmuttonという別の言葉があります。フランス語のmoutonは、動物も肉も、一語で言います。
ソシュールは、こう整理しました。指しているもの(意味)は同じでも、その言葉が、ほかの言葉との関係の中で占めている位置(価値)は違う。
言葉の値打ちは、その言葉単体では決まらない。ほかの言葉との違いと関係で決まる。
犬と猫と狼の違い、で考えてもいいのですが、それは別々の動物なので、当たり前に聞こえます。sheepとmoutonのように、同じ動物を指していても値打ちが違う、というところに、ソシュールの凄みがあります。
将棋で考えてみる
ソシュールは、この考え方を説明するのに、チェスを使いました。ここでは、日本人になじみのある将棋に置き換えてみます。
将棋の駒は、木でも、プラスチックでも、紙切れに「歩」と書いただけのものでも、決まりが同じなら、同じ将棋が指せます。駒の素材には、意味がありません。
大事なのは、「飛車は縦横にどこまでも動ける」「歩は一つ前にしか進めない」といった決まりと、盤の上の駒どうしの関係です。歩は、相手の陣地に入って成ると、「と金」にひっくり返って、金と同じ動きになります。駒の値打ちは、駒そのものではなく、いまの盤面の中での位置で決まっています。
言葉も同じです。「犬」という音そのものに、値打ちが入っているのではありません。猫や狼や、ほかの無数の言葉との関係の中で、はじめて位置が決まります。
(これも単純化したたとえです。ソシュール自身が、チェスと言語には根本的な違いがあることも認めています。また、「猫がいなければ、犬という概念は生まれない」と言っているわけでもありません。)
2. チョムスキー：人間は、聞いたことのない文を作れる
次は、ノーム・チョムスキーです。
ソシュールが、言葉の「体系」に目を向けたのに対して、チョムスキーは、人間が言葉を「生み出す力」に目を向けました。
規則は有限なのに、文は無限に作れる
僕たちは毎日、生まれてから一度も聞いたことのない文を、平気で作っています。誰かの言ったことを、そのまま繰り返しているわけではありません。覚えた単語と、頭の中の規則から、新しい文を組み立てています。
たとえば、こんなふうに、文の中に文を入れていくことができます。
- 猫が鳴いた。
- 太郎は、猫が鳴いたと言った。
- 花子は、太郎が、猫が鳴いたと言ったと思った。
- 先生は、花子が、太郎が、猫が鳴いたと言ったと思ったと知っていた。
文の中に、別の文が入っている。さらにその中にも、文が入っている。この入れ子には、理屈の上では、終わりがありません。
使っている規則は、ごくわずかです。それなのに、作れる文は無限にあります。この「限られた規則から、無限の文が生まれる」という仕組みを、チョムスキーは「生成文法」として研究しました。
文法が正しいことと、意味が通ることは、別
チョムスキーの一番有名な例を紹介します。1957年の著書『Syntactic Structures』に出てくる文です。
Colorless green ideas sleep furiously.
(色のない緑色の考えが、猛烈に眠る。)
意味は、めちゃくちゃです。色がないのに緑色。考えが眠る。しかも猛烈に。
でも、英語の文の形としては、ちゃんと成り立っています。「形容詞、形容詞、名詞、動詞、副詞」と並んでいて、文法としては正しい。
では、この文の語順を、逆にしてみます。
Furiously sleep ideas green colorless.
こちらは、文として成り立ちません。ただの単語の並びです。
ここが面白いところです。どちらの文も、意味は通じません。そして、どちらも、実際の英語の文章には、まず出てきません。それなのに、僕たちは、前の文だけを「文の形をしている」と感じます。
チョムスキーは、ここから、こう主張しました。「出てくる見込みの低さ」だけを頼りにした統計では、この二つの違いは説明できないはずだ。どちらも、同じくらい「英語から遠い」文として、一緒に切り捨てられてしまうからだ。
3. 二人は、何が違うのか
| ソシュール | チョムスキー | |
|---|---|---|
| 注目したもの | 言葉の体系 | 人間の言語能力 |
| 問い | 言葉の意味は、どう成り立つのか | 人間は、どうやって新しい文を作れるのか |
| 見方 | 言葉どうしの関係の中の「価値」 | 限られた規則から、無限の文を作る仕組み |
ソシュールは、言葉を、社会が共有している「関係の網」として見ました。チョムスキーは、言葉を、人の頭の中にある「文を生み出す力」として見ました。
同じ「言語」を見ていても、見ている方向がまったく違います。
4. では、AIは言葉を理解しているのか
ここで、AIです。
いまの生成AIは、大量の文章から、「どんな言葉が、どんな言葉と一緒に使われやすいか」を学んでいます。そして、それまでの文脈をもとに、次に来る言葉の確からしさを計算して、文を作っています。細かい仕組みは、これからも変わっていくでしょう。
これを聞いて、チョムスキーの主張を思い出してください。「出てくる見込みの統計だけでは、文法は説明できない」。
実は、この主張には、後日談があります。2000年に、研究者のフェルナンド・ペレイラが、新聞記事の文章から作った単純な統計モデルで、先ほどの二つの文を比べました。結果は、前の文(Colorless green ideas…)のほうが、逆順の文より、はるかに高い確率になりました。チョムスキーが「統計では区別できないはずだ」と言った二つを、ごく単純な統計モデルが、区別してしまったのです。
(ここで書いた確率の倍率は、資料によって数字が違うので、書いていません。原典はこちらで読めます。)
1957年に出された主張と、2000年の反論と、いまのAI。この問いは、70年近く続いています。
そして、AIの時代になって、チョムスキー自身が、2023年に、共著者とともにNew York Timesに寄稿しました。いまのAIが言語と知識をとらえる仕方には欠陥がある、という批判です(The False Promise of ChatGPT)。それに対する反論も出ていて、本人の応答はこちらで読めます。
二人の見方を借りると、答えは二つに割れる
ソシュールの見方なら:意味は、言葉どうしの関係から生まれる。ならば、膨大な文章から言葉の関係を吸い上げたAIは、かなりの「意味」を持っている、と言えそうです。
チョムスキーの見方なら:人間は、生まれつきの力で、自分で説明を作る。AIは、すでにある文章の型をなぞっているだけで、言葉を理解しているとは言えない、となります。
そもそも、「理解」とは、何を指しているのか
答えが割れる理由は、「理解」という言葉が、一つの意味ではないからかもしれません。
- 関係を正しく扱える:言葉どうしの関係を、間違えずに使える
- 自分で説明を作れる:新しい状況でも、筋の通った説明を、自分で組み立てられる
- 体験として知っている:実際に感じたことがある
「海は冷たい」と、AIは説明できます。でも、AIは海に入ったことがありません。
1つ目は、ソシュールの見方で、かなりできていそうです。2つ目は、まさに論争の真ん中です。3つ目は、ソシュールの理論でもチョムスキーの理論でも、うまく説明がつきません。
おまけ：入れ子の文を、プログラムで作ってみる(読み飛ばしてOK)
2章で見たような、文の中に文が入っていく仕組みは、プログラムでも書けます。
規則から文を作るという考え方は、プログラミング言語の文法の書き方(BNFなど)と、同じ形をしています。コンピュータに命令を伝える言葉も、この種の規則で決められています。言語学で整理された「規則から文を作る」という見方が、コンピュータの言葉の文法の書き方にも受け継がれている、というわけです。
実際に、20行ほどで動く例を置いておきます(JavaScriptです)。
// 規則は、たった3種類。これだけで、入れ子の文が作れる。
const grammar = {
文: [["名詞", "が", "動詞"], // 猫が鳴いた
["名詞", "は、", "文", "と", "言った"], // 太郎は、(文)と言った
["名詞", "は、", "文", "と", "思った"]], // 花子は、(文)と思った
名詞: [["猫"], ["太郎"], ["花子"], ["先生"]],
動詞: [["鳴いた"], ["笑った"], ["走った"]],
};
function generate(symbol, depth = 0) {
const rules = grammar[symbol];
if (!rules) return symbol; // 規則がなければ、そのまま出す
const next = symbol === "文" ? depth + 1 : depth;
const rule = (symbol === "文" && depth >= 3) // 入れ子が深くなりすぎたら、止める
? rules[0]
: rules[Math.floor(Math.random() * rules.length)];
return rule.map(s => generate(s, next)).join("");
}
for (let i = 0; i < 8; i++) console.log(generate("文"));
実行するたびに、結果は変わります。たとえば、こんな文が出ます。
太郎が鳴いた
先生は、太郎は、花子が鳴いたと言ったと言った
猫は、太郎は、先生が笑ったと言ったと思った
文の中に文が入り、その中にさらに文が入っています。使っている規則は、3種類だけです。
コードでは、読めなくなるほど深くなる前に止めています。でも、規則そのものには、入れ子の深さの上限がありません。「限られた規則から、無限の文が生まれる」という、チョムスキーの見方を、小さな形で確かめられます。
ただし、これは言葉の「形」を作っているだけです。意味は、何も分かっていません。「猫は、太郎は、先生が笑ったと言ったと思った」を、僕たちが読んで「変な文だな」と感じる、その感覚はどこから来るのか。本編の続きを、もう一度考えたくなります。
おわりに
ソシュールは、言葉の値打ちが、ほかの言葉との関係で決まることを示しました。チョムスキーは、限られた規則から、無限の文を生み出す人間の力に注目しました。
そして、AIという新しい鏡を前にして、僕たちは、昔からあった問いに、もう一度ぶつかっています。
機械のバグを直そうとしていたはずが、いつの間にか、人間の方を見つめていた。
あなたが「理解した」と言うとき、それは、上の三つのうち、どれのことですか？