【AI進化の歴史：第13回】2019年：牙を剥く巨大言語モデル：GPT-2の衝撃と公開延期

【AI進化の歴史を辿る連載】

前回（第12回）：【AI進化の歴史：第12回】2018年：自然言語のブレイクスルー：BERTとGPT-1

※本連載は、AIの誕生から現在までの歴史を1年ずつ追いながら、技術の変遷とドラマをドキュメンタリー小説風に解き明かしていきます。

1. プロローグ：危険すぎるAIの誕生

2019年2月。シリコンバレーの非営利（当時）AI研究所OpenAIが発表した1つの言語モデルが、世界中に「熱狂」と「恐怖」を同時に巻き起こしました。

その名は「GPT-2」。

その文章生成能力があまりにも精巧で人間と見分けがつかないレベルに達していたため、開発元であるOpenAIみずからが「悪用された場合の社会的危険性が高すぎる」として、最大のモデルの公開を差し止めるという異例の事態に発展したのです。

AIの安全対策（AI Safety）とアライメント（倫理的な調和）という問題が、SFの絵空事から「現実の脅威」へと引きずり下ろされた、歴史的事件の舞台裏に迫ります。

2. 狂気の仮説：「ただ巨大化するだけで、知能は創発する」

前年に発表されたGPT-1（パラメータ数1.1億）に対し、OpenAIのチームがGPT-2で挑んだのは、極めて単純でありながら、当時の常識を覆す狂気的な仮説でした。
「モデルの構造はほとんど変えずに、パラメータの数と学習データの規模を10倍以上にスケールアップしたら、何が起きるか？」

そうして誕生したGPT-2は、一気に「15億パラメータ」へと巨大化されました。学習データも、Redditで評価された高品質なリンク先からテキストを抽出した「WebText（約40GB / 約800万ものWebページ）」という超巨大なデータセットが構築されました。

※図：GPT-1からGPT-2への劇的なパラメータ数と学習データ規模のスケールアップ（AI生成ダイアグラム）

当時の言語処理の学界では、「単に同じネットワークを大きくするだけでは性能はいずれ頭打ちになる」という悲観論が主流でした。
しかし、GPT-2が示した結果は全く逆でした。モデルの規模が一定の閾値を超えた瞬間、事前に特別な学習（チューニング）を行っていないはずの「翻訳」「質問回答」「文章要約」などのタスクを、事前学習の知識だけで「勝手にこなす能力（Zero-shot学習）」が自律的に芽生え始めたのです。

知能は、規模の拡大の先に「創発」し始めていました。

3. 「アンデスの喋るユニコーン」：人間を超える筆力

GPT-2が執筆してみせた文章は、人間が書いたものと見分けがつかないほどに極めて自然で、論理的な一貫性を保っていました。
世界を驚かせたのが、OpenAIがデモとして公開した「アンデス山脈のユニコーン」の生成テキストです。

【人間に与えられた短いプロンプト（書き出し）】
「アンデス山脈で、英語を話すユニコーンの群れが発見されたという。さらに驚くべきことに、彼らはほぼ完璧な英語を話した」

【GPT-2が自律的に紡ぎ出した続きの文章（抜粋）】
「科学者たちは、このユニコーンの群れが南米アンデス山脈の未開の谷に生息しているのを発見した。
さらに驚くべきことに、これらの生物は一種の独自の精神的テレパシーによって、人間と明確に意思疎通することができた。
この発見について、ボリビアのラパス大学の生物学者ヘクトール・ペラ記者は『私たちは彼らがただの神話上の存在だと信じていたが、彼らは現実に存在し、高度な知性を持っていた』と語った...」

実在しない架空の大学、架空の教授のコメントを交えながら、まるで本物のサイエンス・ニュース記事のような文脈を一貫して書き上げるGPT-2の筆力に、世界中の技術者やジャーナリストが息を呑みました。

4. 「Staged Release（段階的公開）」の波紋と炎上

しかし、この圧倒的な能力こそが、OpenAIに重大な決断を迫ることになります。
発表と同日の2019年2月14日、OpenAIは公式ブログで衝撃的な声明を発表しました。
「GPT-2があまりにも高度なフェイクニュースの大量生成、自動スパム、世論操作などに悪用される懸念があるため、最大の15億パラメータモデルの公開を延期（制限）し、まずはサイズを小さくした最小モデル（1.24億パラメータ）のみを公開する」

これが、のちに有名になる「Staged Release（段階的公開 / 制限付きリリース）」のアプローチです。

※画像：安全性（AI Safety）への懸念から、「段階的公開（Staged Release）」を選択したOpenAIの決断を示すイメージ（AI生成画像）

この決断に対し、オープンソースコミュニティや一部の研究者からは激しい逆風が吹き荒れました。
「安全性を口実にした、誇大広告（売名行為）ではないか？」
「『オープン』を名乗っていたはずのOpenAIが、クローズドな独占企業へ変質していくための言い訳ではないか？」

しかし、OpenAIはこれらの批判を浴びながらも、安全性の検証調査を段階的に進め、数ヶ月かけて3.55億、7.74億モデルを順次リリースし、同年11月にようやく満を持して最大の15億パラメータモデルを一般公開しました。

結果として、この騒動は単なる話題作りにとどまらず、「AIが実用レベルのテキスト生成能力を獲得したとき、社会はどう安全を守るべきか」という、現代の生成AI時代における最重要テーマである「AIアライメントと安全性」の議論を世界規模で定義づける、極めて重要なマイルストーンとなったのです。

5. エピローグ：スケーリング則という魔法の証明

GPT-2の段階的公開のドラマが収束に向かう中、AI開発者たちの脳裏には、ある抗いがたい強烈な真実が焼き付けられていました。

「1.1億を15億にしたら知能が跳ね上がった。では、これをさらに100倍、1000倍に巨大化させたら、一体何が起きるのか？」

OpenAIのチーフサイエンティストであるイリヤ・サツケヴァーらが確信したこの「計算量とデータを増やせば知能は伸び続ける」という「Scaling Law（スケーリング則）」の数式は、翌年2020年、1,750億パラメータという文字通りの怪物を現出させることになります。

次回、2020年。ついに生成AI時代の幕開けを告げる「GPT-3」が誕生し、世界を新たな次元の衝撃へと叩き落とします。
「【AI進化の歴史：第14回】2020年：生成AI時代の幕開け：GPT-3の衝撃と超巨大化の真実」へ。

知能のスケールアップは、もはや誰にも止められない特異点へと向かい始めます。