本記事は下記の続きです。

Microsoftとのパートナーシップ延長

2023年1月、Microsoft社は2019、2021年の投資に続き、数年にわたって数十億ドル規模の投資を通じて OpenAIと長期パートナーシップを結ぶことを発表した¹。OpenAIは全てのモデルの学習をAzureで行っており、引き続きクラウドプロバイダーとしてAzureを利用していくことが実質確定したこととなる²。
また、2023年2月には検索エンジンのBingへChatGPT機能を連携させることを発表するなど³⁴、MicrosoftのサービスのAI機能強化を積極的に行っている。

ChatGPT plus, ChatGPT Enterprise, GPTs

ChatGPTのビジネス規模を拡大するため、2023年2月にChatGPTのより早い応答速度や新機能への優先アクセスが可能なサブスクリプションプラン（$20/month）であるChatGPT Plusがリリースされ⁵、同年8月にエンタープライズグレードのセキュリティとプライバシーが担保された最もパワフルなバージョンであるChatGPT Enterpriseも発表された⁶。
さらに、より多岐のタスクに対応するAI開発需要に対してリーチするため、5月にはChatGPTに追加機能を提供するChatGPT Plugins⁷、11月に特定の目的のためのカスタムで作成したChatGPTを他の人と共有できるGPTsを発表した⁸。2024年春の時点で、それぞれ最も活発だったタイミングで、Pluginsは1000強、GPTsは数十万のリリースと、GPTsの方が好まれていることが明らかだったこともあり⁹、2024年の4月にChatGPT Pluginsは提供終了となっている¹⁰。

OpenAI Announces GPTs and ChatGPT Store

GPT-4

2023年3月、OpenAIは大幅に改良されたGPT-4.0を発表した。GPT-4.0は、テキストの理解力、長文の整合性、コード生成の精度、そして創造的な文章の作成能力が向上しており、特にテキスト＋画像を入力とし、テキストを出力する「マルチモーダル対応」が大きな進化点となった¹¹。内部構造等についてはOpenAIから明らかにされていないが、MoE（Mixture of Experts）と呼ばれる構造を利用しているなどの推測がされている¹²¹³（詳細を明らかにしないことについて、コミュニティ内で批判があったが方向性については後述）。
GPT-4は継続的に改善され、2023年11月にはGPT-4 Turboがリリースされている¹⁴。

【性能比較】GPT-3.5 vs GPT-4、違いはどこにある？

Mixture of Experts Explained

DALL-E 3

2023年9月、画像生成AIであるDALL-E 2の後継であるDALL-E 3がリリースされた¹⁵。ChatGPTとの統合により、ユーザーが簡単な指示をプロンプトとして入力するだけで、ChatGPTが適切な詳細プロンプトを作成し、DALL-E 3がそれを元に高品質な画像を生成する仕組みになっている¹⁶。
技術的な詳細は公表されていないが、Stable Diffusionのように潜在空間から画像を出力できる可能性や、Deepfloyd IFのようなテキストエンコーダーの利用が考察されている¹⁷。

Stable Diffusion の仕組み

DeepFloyd IF is a crazy good text-to-image model - and open-source

Q*

2023年11月ロイター通信から、OpenAIがQ*（Q star）と呼ばれるプロジェクトが進んでいると報じた¹⁸。OpenAIから公式には詳細を公表されていない（Altman 氏自身は、プロジェクトを肯定も否定もせず、Q* について質問されたときに「残念なリーク」についてコメントした¹⁹）が、2023年5月に発表されたプロジェクトに関連しており、出力結果を教師データとするOutcome supervisionではなく、出力過程を教師とするProcess supervisionという手法を用いているとされている²⁰²¹。
取材によると（GPT等の）現状の言語モデルが直感的な推論に過ぎず、　論理的な推論ができていないことを問題視して取り組まれたものであり、Tromeroの共同設立者Sophia Kalanovska氏が、下記のことを言及している²²。

Q* の名前はQ学習とA* 検索という2つのよく知られたAI技術の組み合わせであることを示唆している
新しいモデルが、ChatGPT を動かすディープラーニング技術と人間がプログラムしたルールを組み合わせる可能性があることを示唆している。

Codexのサポート問題

2022年11月、Microsoft Copilotとそれを支えるCodexにより、著作権侵害と不当利益があるとして、Microsoft社、Github社、OpenAI社は集団訴訟を起こされている（原告側の主張は棄却されているが、2024年現在で訴訟は継続中）²³。
このような動きを受けてか、OpenAIはCodexユーザーに対して「Codexのサポートを3月23日に終了する」と通知するメールを、その3日前に送信してGPT-3.5 Turboに移行することを推奨したが²⁴²⁵、Codexが約100件もの学術論文で使用されていたなどのことから、Codexへのアクセスを引き続きサポートするプログラムを開始した。しかし、結局は公にアクセスすることは困難で、Codexの利用は非推奨となっている。

その他、マネジメント関連の動向

OpenAIの主任科学者兼共同創設者（2023年3月時点）のIlya Sutskever氏が、AIの能力が向上したことによる公開のリスクに懸念を示し、クローズドなアプローチに切り替える表明を行った。倫理や将来のAI開発の方向性などさまざまな観点から意見が飛び交い、物議を醸す決定となる²⁶。

Sutskever replied simply, “We were wrong. Flat out, we were wrong. If you believe, as we do, that at some point, AI — AGI — is going to be extremely, unbelievably potent, then it just does not make sense to open-source. It is a bad idea... I fully expect that in a few years it’s going to be completely obvious to everyone that open-sourcing AI is just not wise.”²⁶

Google翻訳
OpenAI が研究の共有に対するアプローチを変えた理由を尋ねられたとき、Sutskever 氏は「私たちは間違っていました。はっきり言って間違っていました。私たちと同じように、AI (AGI) がいつか信じられないほど強力になると信じているなら、オープンソース化しても意味がありません。それは悪い考えです...数年後には、AI をオープンソース化するのは賢明ではないことが誰の目にも明らかになると確信しています。」と答えました。

そして11月、共同創設者の一人であるCEOのSam Altman氏が、コミュニケーションに率直さがないことなどを理由に、取締役会により突然解任されるという事件が発生した。しかし、社員の大多数がAltman氏とともにMicrosoftへ入社する署名を集めるなど復帰を支持した結果、5日後に復職し、Altman氏に反対していた取締役がほとんど解任されるなど取締役会の再編が行われた。この騒動の真の原因は現在でも謎のままであり、Altman氏の評判も二極化されたとされている²⁷²⁸。

OpenAI Ousts CEO Sam Altman

続きはこちら