会話の文脈をおぼえている？
ChatGPTと会話のやりとりをしていると、疑問が湧いてくる時がある。
「ChatGPTって会話の文脈をどこまで覚えて回答しているんだろう？」
たとえば、
質問(ユーザー)
↓
回答（ChatGPT）
↓
回答を踏まえた質問(ユーザー)
↓
回答を踏まえた質問に対する回答（ChatGPT）
↓
回答を踏まえた質問に対する回答を踏まえた質問(ユーザー)
↓
回答を踏まえた質問に対する回答を踏まえた質問に対する回答（ChatGPT）
と会話が長くなったとき、
最初の質問からの文脈をどこまで理解しているのか、
直前の質問に回答しているだけなのか、
覚えているとすればどこまで覚えているのか、
ということです。
最初の方は会話の流れを踏まえて回答してくれている。
しかし、途中から回答がいまひとつしっくりこなくなることもあるかもしれない。
果たして、全体の文脈を理解しているのか？
ChatGPTが文脈を覚えられる限界量がある
結論からいうと、ChatGPTは会話の文脈を覚えている。
しかし覚えられる長さには限界がある。
どこまで覚えられるかは明確に決まっている。
| model | トークン数 | 日本語換算単語数 |
|---|---|---|
| ChatGPT3.5（無料） | 4096 | 約1000~4000 |
| ChatGPT4（$20/month） | 8000 | 約2000~8000単語 |
| ChatTeam（$25/month） | 32000 | 約10000~30000単語 |
| ChatGPTEnterprise（有料） | 128000 | 約40000~120000単語 |
トークン数は「コンテキスト・ウィンドウ・サイズ」と呼ばれていて、
この上限を超える会話、文章は、最初の方から忘れていく。
コンピュータのメモリのようなものである。
なので、ビジネスプランの全体の設計から詳細まで扱いたい場合や、
大規模なシステムのコードの整合性をとりたい場合は、
コンテキストウィンドウサイズの大きい有料プランを検討した方が良いかもしれない。
ちなみに、新しいチャットスペースを開くとChatGPTは全て忘れている。
各トークルームで毎回新人が出てくるようなものである。
というのは、会話によってChatGPTモデルが学習しているわけではないからである。
あくまで、その会話ルームの中のメモリのみで文脈を追っている。
🐣
フリーランスエンジニアです。
AIについて色々記事を書いていますのでよかったらプロフィールを見てみてください。
もし以下のようなご要望をお持ちでしたらお気軽にご相談ください。
AIサービスを開発したい、ビジネスにAIを組み込んで効率化したい、AIを使ったスマホアプリを開発したい、
ARを使ったアプリケーションを作りたい、スマホアプリを作りたいけどどこに相談したらいいかわからない…
いずれも中間コストを省いたリーズナブルな価格でお請けできます。
お仕事のご相談はこちらまで
rockyshikoku@gmail.com
機械学習やAR技術を使ったアプリケーションを作っています。
機械学習／AR関連の情報を発信しています。