生成AI(LLM)技術情報 2024年5月版
こんにちは。株式会社システナ フレームワークデザイン本部です。
弊社でも力を入れている生成AIについて、最新情報を紹介致します。
導入
生成AIに関しては昨今の技術進歩が凄まじく、
最新情報に着いていくのがやっとになります。
そこで、
今回は生成AIの現状と、ビジネスユースケースについてまとめてみたいと思います。
最新情報
この春、各社から一斉に最新サービスの発表がありました。
まずはこれらについて、簡単に紹介いたします。
GPT-4o
GPT-4oは、GPT-4の発展版という位置づけとなります。
（※GPT-5ではなく、あくまでGPT-4oの発展版という位置づけ）
主な進化ポイントは以下となります。
- 速度向上
- 日本語への最適化
- 動画をインプットした回答
- 価格が半額に（API利用時）
それぞれについて、もう少し詳しくご説明いたします。
- 速度向上
- GPT-4ではTurbo版であっても回答生成時間が遅く、少し使用を躊躇うものでした
- GPT-4oでは大幅に改善しており、体感で3倍以上は早くなった気がします
- 待ち時間が大幅に減少したことにより、更なる利用促進に繋がりそうです
- 日本語への最適化
- AIは文章をトークンと呼ばれる単位に分割しますが、日本語ではほとんど1文字ごとに分割されていました
- この単位が単語ごとに近い形へと変更され始め、回答速度と質の向上に繋がっています
- 動画をインプットした回答
- OpenAIのデモ動画では、スマートホンのカメラで映した映像に対して、リアルタイムでAIが回答するようなシーンが公開されていました
- まるでAIとビデオ通話をしているかのような体験が出来るようになります
- 価格が半額に（API利用時）
- GPT-4ではGPT-3.5に比べて割高なAPI利用料がネックとなっていました
- GPT-4oではAPI利用料が半額になった上に、トークン数カウントも見直されたため、大幅な利用コスト減少になります
Copilot+
Microsoftは新たなCopilot＋PCというカテゴリのPCを発表しました。
これは生成AIをローカル端末で動かす能力があるPC（NPU搭載PC）において、
WindowsOSに統合されたAIを様々なシーンで活用できる事がポイントとなります。
現時点では、スマホ向けCPUチップセットで有名なSnapDragonのPC版、
SnapDragon Elite/PlusというCPUチップセットを搭載した端末が対象となります。
（Nvidia製のGPUを搭載したPCの方が性能は上であると思われますが、Copilot＋PCの対象は現時点ではSnapDragon Elite/Plusのみとなっています）
生成AIのビジネスユースケース
現状
生成AI（LLM）のビジネスにおける活用シーンは、
下記のようなものがあります。
- チャットボット
- 普通にGPTを使用する
- RAG検索
- 社内ナレッジを文章としてユーザの質問と一緒にAIへ渡し、あたかもAIが社内のナレッジを知っているかのような回答をさせる
- 電話応対
- RAG検索との組み合わせによって、ユーザからの電話にAIが対応するというものです
- 既にMicrosoft社などは導入しており、人と話すのと遜色がないレベルとなっています
- 私も先日計らずもお世話になりました
今後
現在の主なユースケースは「チャットボット」となっています。
各企業様の中では人間が行う業務を代替して工数削減を目指している所が多いと思いますが、
残念ながらチャットボットだけではたとえRAG検索を行っても工数削減は限定的です。（KPIも出しにくい）
今後のAIの業務への活用を考えると、
~脱チャットボット 目指せ業務自動化！~
が大事なスローガンと言えます。
弊社では業務自動化を目指したユースケースの検討・簡易プロトタイプ制作＆検証を行っております。
来るAI時代をリードしていけるよう、若手を中心に専門チームが日々頑張っております。