0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

【AI進化の歴史:第14回】2020年:数多のタスクをこなすGPT-3とプロンプトの誕生

0
Last updated at Posted at 2026-07-13

【AI進化の歴史:第14回】2020年:生成AI時代の幕開け:GPT-3の衝撃と超巨大化の真実

AI進化の歴史を辿る連載

※本連載は、AIの誕生から現在までの歴史を1年ずつ追いながら、技術の変遷とドラマをドキュメンタリー小説風に解き明かしていきます。

1. プロローグ:すべてを変えた2020年

2020年5月。世界が未曾有のパンデミックの渦中にあったその時、AI研究の歴史に「真の分水嶺」となる1本の論文がひっそりと公開されました。
タイトルは『Language Models are Few-Shot Learners』(言語モデルはFew-Shot学習者である)。

そこに記されていたのは、OpenAIが開発した第3世代の巨大言語モデル「GPT-3」の圧倒的な姿でした。

それまで「翻訳」「要約」「質問回答」など、目的ごとに別々にモデルを訓練していた時代は終わりました。GPT-3は、その常識を超えた超巨大な脳により、人間が与えるわずかな「対話の指示」だけで未知の課題をその場で解決してみせたのです。

プログラミングの概念すら書き換え始めた、生成AI時代の真の幕開けとなったその実態に迫ります。


2. 「1750億」という超巨大な知能の構築

GPT-3の最大の特徴は、前年のGPT-2(15億パラメータ)を一気に100倍以上も凌駕する「1750億パラメータ」という前代未聞の超巨大スケールにありました。

この規模のモデルを学習させることは、もはや一企業の通常の開発環境の限界をはるかに超えていました。OpenAIは、戦略的提携を結んだMicrosoftがAzure上に構築した、「数万基の最高峰GPUを専用の超高速回線で連結した、世界トップクラスの専用スーパーコンピュータ」を数ヶ月間フル稼働させることで、この巨大な脳に命を吹き込みました。

学習にかかった電気代と計算コストは推定数百万ドル(数億円)。
しかし、この途方もないスケールアップの果てに現れたのは、これまでの「ただの言語の統計モデル」とは明らかに一線を画す、未知の「知能の挙動」だったのです。


3. 革命:「インコンテキスト学習(Few-Shotプロンプティング)」

GPT-3がもたらした最大の技術的パラダイムシフトは、「Few-Shotプロンプティング(インコンテキスト学習)」の発見でした。

これまでのAIは、言語の基本ルールを学ばせた後に、特定の目的に沿ってパラメータを微調整する「ファインチューニング」が不可欠でした。しかしGPT-3は、モデル自体のパラメータを一切書き換えることなく、入力テキスト(プロンプト)の指示の中にいくつかの「実行例」を見せるだけで、その場で意図を理解してタスクを実行したのです。

Few-Shotプロンプティングの概念
※図:ファインチューニングを行うことなく、プロンプト内で例示(Few-Shot)を示すだけで即座にタスクを実行する仕組み(AI生成ダイアグラム)

  • プロンプトへの指示:
    「英語をフランス語に翻訳してください。」(指示)
    「cat ➡ chat」(例1)
    「dog ➡ chien」(例2)
    「bird ➡ [ ]」(質問)
  • GPT-3のアウトプット:
    「oiseau」

このプロセスは、AIがその場で「文脈(コンテキスト)から推論して学習している」ように見えたため、インコンテキスト学習と名付けられました。これによって、AIの開発は「プログラムのコードを書くこと」から、「AIに与える指示文(プロンプト)を工夫すること(プロンプトエンジニアリング)」へと、劇的に変化し始めたのです。


4. プログラマーへの衝撃:コード生成能力の覚醒

さらに世界を驚かせたのは、GPT-3が「人間の言葉」だけでなく「プログラミング言語」をも完璧に操り始めたことでした。

「真ん中に青いボタンがあり、それをクリックすると『Hello World』とダイアログが出るHTMLページを作って」と英語の文章で指示を与えるだけで、GPT-3は瞬時に正しいHTML、CSS、JavaScriptコードを生成してみせたのです。

GPT-3によるコード生成
※画像:英語の指示からプログラムコード(HTML/JavaScript)を動的に生成するAIの動作イメージ(AI生成画像)

この能力はのちに「Codex(コーデックス)」と呼ばれる専用モデルへと研ぎ澄まされ、今日の開発支援ツール「GitHub Copilot」の直接の母体となりました。
「いずれAIが、プログラマー自身の仕事さえも代替するかもしれない」
世界中のソフトウェアエンジニアたちは、この時初めて、自らの職業が直面することになる「静かなるゲームチェンジ」の予感を肌で感じることになりました。


5. 理想と現実のジレンマ:非営利から「Microsoft独占契約」へ

しかし、この超巨大な知能を維持し、さらに次の世代へスケールさせるには、非営利の研究所の枠をはるかに超える莫大なインフラコスト(数億〜数十億円規模)が必要でした。

OpenAIはこの資金と計算パワーを確保するため、2019年に営利部門を設立していたのに続き、2020年9月、「Microsoftに対するGPT-3の独占的なライセンス契約」を発表しました。

この決断は、「すべての人の利益のために最先端AIをオープンに開発する」という設立当初の崇高な理想から離れ、巨大テック資本の傘下へと組み込まれていくOpenAIの「現実主義的(かつ商業主義的)な変質」を象徴する出来事として、コミュニティで大きな議論を呼びました。

しかしこの契約こそが、のちに世界を塗り替えるChatGPTの爆発的な誕生を裏で支える、強固なインフラ基盤をもたらすことになるのです。


6. エピローグ:次なるフロンティア「視覚」へ

GPT-3の登場によって、AIは人間並みに流暢な「読み・書き・プログラミング」ができる基礎体力を手に入れました。

知能のスケールアップは、テキストの世界を完全に制覇しつつありました。
しかし、人間の知性は「言葉」だけで構成されているわけではありません。私たちは世界を「見て」、視覚的なイメージと言葉を重ね合わせることで、より深い認知を獲得しています。

2020年にテキストモデルの究極形を提示したOpenAIは、翌2021年、その知能の網の目を「言葉」から「イメージ(画像)」の創造へと広げ、マルチモーダルAIの扉をこじ開けることになります。

次回、2021年。「アボカドの形をした肘掛け椅子」を言葉から描き出す、あの伝説の画像生成AIが産声を上げます。
【AI進化の歴史:第15回】2021年:言葉が絵を描く:DALL-Eの誕生とマルチモーダルAIの胎動へ。

知能は言葉のキャンバスを飛び出し、世界の視覚的な創造を始めます。

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?