【AI進化の歴史:第14回】2020年:生成AI時代の幕開け:GPT-3の衝撃と超巨大化の真実
【AI進化の歴史を辿る連載】
※本連載は、AIの誕生から現在までの歴史を1年ずつ追いながら、技術の変遷とドラマをドキュメンタリー小説風に解き明かしていきます。
1. プロローグ:すべてを変えた2020年
2020年5月。世界が未曾有のパンデミックの渦中にあったその時、AI研究の歴史に「真の分水嶺」となる1本の論文がひっそりと公開されました。
タイトルは『Language Models are Few-Shot Learners』(言語モデルはFew-Shot学習者である)。
そこに記されていたのは、OpenAIが開発した第3世代の巨大言語モデル「GPT-3」の圧倒的な姿でした。
それまで「翻訳」「要約」「質問回答」など、目的ごとに別々にモデルを訓練していた時代は終わりました。GPT-3は、その常識を超えた超巨大な脳により、人間が与えるわずかな「対話の指示」だけで未知の課題をその場で解決してみせたのです。
プログラミングの概念すら書き換え始めた、生成AI時代の真の幕開けとなったその実態に迫ります。
2. 「1750億」という超巨大な知能の構築
GPT-3の最大の特徴は、前年のGPT-2(15億パラメータ)を一気に100倍以上も凌駕する「1750億パラメータ」という前代未聞の超巨大スケールにありました。
この規模のモデルを学習させることは、もはや一企業の通常の開発環境の限界をはるかに超えていました。OpenAIは、戦略的提携を結んだMicrosoftがAzure上に構築した、「数万基の最高峰GPUを専用の超高速回線で連結した、世界トップクラスの専用スーパーコンピュータ」を数ヶ月間フル稼働させることで、この巨大な脳に命を吹き込みました。
学習にかかった電気代と計算コストは推定数百万ドル(数億円)。
しかし、この途方もないスケールアップの果てに現れたのは、これまでの「ただの言語の統計モデル」とは明らかに一線を画す、未知の「知能の挙動」だったのです。
3. 革命:「インコンテキスト学習(Few-Shotプロンプティング)」
GPT-3がもたらした最大の技術的パラダイムシフトは、「Few-Shotプロンプティング(インコンテキスト学習)」の発見でした。
これまでのAIは、言語の基本ルールを学ばせた後に、特定の目的に沿ってパラメータを微調整する「ファインチューニング」が不可欠でした。しかしGPT-3は、モデル自体のパラメータを一切書き換えることなく、入力テキスト(プロンプト)の指示の中にいくつかの「実行例」を見せるだけで、その場で意図を理解してタスクを実行したのです。

※図:ファインチューニングを行うことなく、プロンプト内で例示(Few-Shot)を示すだけで即座にタスクを実行する仕組み(AI生成ダイアグラム)
-
プロンプトへの指示:
「英語をフランス語に翻訳してください。」(指示)
「cat ➡ chat」(例1)
「dog ➡ chien」(例2)
「bird ➡ [ ]」(質問) -
GPT-3のアウトプット:
「oiseau」
このプロセスは、AIがその場で「文脈(コンテキスト)から推論して学習している」ように見えたため、インコンテキスト学習と名付けられました。これによって、AIの開発は「プログラムのコードを書くこと」から、「AIに与える指示文(プロンプト)を工夫すること(プロンプトエンジニアリング)」へと、劇的に変化し始めたのです。
4. プログラマーへの衝撃:コード生成能力の覚醒
さらに世界を驚かせたのは、GPT-3が「人間の言葉」だけでなく「プログラミング言語」をも完璧に操り始めたことでした。
「真ん中に青いボタンがあり、それをクリックすると『Hello World』とダイアログが出るHTMLページを作って」と英語の文章で指示を与えるだけで、GPT-3は瞬時に正しいHTML、CSS、JavaScriptコードを生成してみせたのです。

※画像:英語の指示からプログラムコード(HTML/JavaScript)を動的に生成するAIの動作イメージ(AI生成画像)
この能力はのちに「Codex(コーデックス)」と呼ばれる専用モデルへと研ぎ澄まされ、今日の開発支援ツール「GitHub Copilot」の直接の母体となりました。
「いずれAIが、プログラマー自身の仕事さえも代替するかもしれない」
世界中のソフトウェアエンジニアたちは、この時初めて、自らの職業が直面することになる「静かなるゲームチェンジ」の予感を肌で感じることになりました。
5. 理想と現実のジレンマ:非営利から「Microsoft独占契約」へ
しかし、この超巨大な知能を維持し、さらに次の世代へスケールさせるには、非営利の研究所の枠をはるかに超える莫大なインフラコスト(数億〜数十億円規模)が必要でした。
OpenAIはこの資金と計算パワーを確保するため、2019年に営利部門を設立していたのに続き、2020年9月、「Microsoftに対するGPT-3の独占的なライセンス契約」を発表しました。
この決断は、「すべての人の利益のために最先端AIをオープンに開発する」という設立当初の崇高な理想から離れ、巨大テック資本の傘下へと組み込まれていくOpenAIの「現実主義的(かつ商業主義的)な変質」を象徴する出来事として、コミュニティで大きな議論を呼びました。
しかしこの契約こそが、のちに世界を塗り替えるChatGPTの爆発的な誕生を裏で支える、強固なインフラ基盤をもたらすことになるのです。
6. エピローグ:次なるフロンティア「視覚」へ
GPT-3の登場によって、AIは人間並みに流暢な「読み・書き・プログラミング」ができる基礎体力を手に入れました。
知能のスケールアップは、テキストの世界を完全に制覇しつつありました。
しかし、人間の知性は「言葉」だけで構成されているわけではありません。私たちは世界を「見て」、視覚的なイメージと言葉を重ね合わせることで、より深い認知を獲得しています。
2020年にテキストモデルの究極形を提示したOpenAIは、翌2021年、その知能の網の目を「言葉」から「イメージ(画像)」の創造へと広げ、マルチモーダルAIの扉をこじ開けることになります。
次回、2021年。「アボカドの形をした肘掛け椅子」を言葉から描き出す、あの伝説の画像生成AIが産声を上げます。
「【AI進化の歴史:第15回】2021年:言葉が絵を描く:DALL-Eの誕生とマルチモーダルAIの胎動」へ。
知能は言葉のキャンバスを飛び出し、世界の視覚的な創造を始めます。