OpenAI（1. ~2017年ごろ：創設〜GPTリリース前）

OpenAI創設

2014年にGoogle（現：Alphabet）社がDeepMind社を買収後¹、同社が開発したAlphaGoが2015年10月に囲碁のヨーロッパチャンピオンを破ったことでDeepMind社が高度なAIシステムの開発で急速に進歩していることを示した²。これにより、Google社などの大手テクノロジー社による人工汎用知能（AGI: Artificial General Intelligence）技術の独占の可能性が予見された。この脅威に懸念を抱いた、Elon Musk氏、Sam Altman氏らは人類全体に利益をもたらす良性のAGIを作ることで、その潜在的な誤用や悪用を防ぐことができると考え、2015年12月に非営利団体としてOpenAIを設立した³⁴。

OpenAI Cofounders
La evolución de OpenAI: rastreo de sus fundadores y cambios recientes

OpenAI設立当初

OpenAIのポテンシャルと、安全でフレンドリーな方法でAIを開発するという使命に惹かれてトップクラスの研究者が集まった⁵。

Our mission is to ensure that artificial general intelligence—AI systems that are generally smarter than humans—benefits all of humanity.
OpenAI

設立当初は方針が示せず各々のメンバーが自然言語処理、強化学習、ロボット工学など、AI内のさまざまな領域にまたがるプロジェクトを自由に研究をしていた中⁶、2016年4月に強化学習研究用のプラットフォームOpenAI Gym、12月にUniverseをリリースするなど⁷、強化学習に焦点が置かれていた様子が窺える。2017年にはGymを利用したOpenAI Fiveと呼ばれるAI botが、複雑なビデオゲームDota2でプロの人間プレイヤーを破り⁷⁸、大きな注目を浴びた。

OpenAI published a timeline of its bot's progression in 2017:

• March 1st—has its first classical reinforcement learning results in a simple Dota environment.
• Early June—beats 1.5k matchmaking ranking (MMR) tester
• June 30th—wins the majority of games against 3k MMR tester
• July 8th—gets first win against 7.5k MMR semi-pro tester
• August 7th—beats Blitz (6.2k former pro) 3–0, Pajkatt (8.5k pro) 2–1, and CC&C (8.9k pro) 3–0
• August 9th—beats Arteezy (10k pro, top player) 10–0
• August 10th—beats Sumail (8.3k pro, top 1v1 player) 6–0
• August 11th: beat Dendi (7.3k pro, former world champion) 2–0. The bot has a 60% win rate versus the August 10th version.
  引用

一方、OpenAIの経営権をめぐって上層部の対立が起こり、2018年2月にElon Musk氏が退任して資金提供が滞ったため、非営利団体として大規模なAI学習を行うための開発費用が当初の想定より不足する事態となった⁹。
そんな中、2017年6月にGoogle社の研究者が自然言語処理AIの分野でTransformerに関する論文（Attention Is All You Need）を発表した。Transformerの研究チームを知っていたOpenAIの研究者Ilya Sutskever氏は、学習コストが莫大であるにもかかわらず、Transformerを用いたモデルの研究に着手することを提案した¹⁰¹¹。

Transformer architecture

次の記事はこちら

1. Google DeepMindとは？　新人エンジニアの方にもわかりやすく解説 ↩

2. AlphaGo ↩

3. The Fear That Inspired the Creation of OpenAI ↩

4. The Chilling Concern Elon Musk Had About Google's Deepmind AI ↩

5. The History of OpenAI ↩

6. サム・アルトマンとは誰か？ OpenAI の設立、3つの矛盾と副作用 ↩

7. OpenAI timeline: The history of the company and its products explained ↩ ↩²

8. The Science Behind OpenAI Five that just Produced One of the Greatest Breakthrough in the History of AI ↩

9. The secret history of Elon Musk, Sam Altman, and OpenAI ↩

10. 8 Google Employees Invented Modern AI. Here’s the Inside Story ↩

11. AIの歴史を変えた「Transformer」と8人のグーグル社員たち ↩