どうも、カーブミラーです。
今回は、“質問は、Promptの最初に置きましょう”という話です。
本記事は、ChatGPT（有料版）
で行なっております。画像は
ありません。 あしからず。
まずは、ニュース。
Apple Intelligenceが本日リリース。
iPhone、iPad、Macで、
初期機能が使えるように。
主な機能
①作文ツール
②自然かつ有能なSiri
③検索に優れた写真アプリ
④優先順位をつけたEメール管理
日本語対応は来年以降
詳しくは、こちら。
木内翔大さんポスト
次に、
ChatGPTの
Advanced Voice Modeですが、
先日、下記の国でPlusで使える
とお知らせしました。
EU、スイス、アイスランド、
ノルウェー、リヒテンシュタイン。
本日（2024/10/29）から
無料版でも利用可能になりました。
OpenAI公式ポスト
さて、本題に入ります。
今回は、
“質問は、
Promptの最初に置きましょう”、
という話です。
今回は、
こちらのポストを読みました。
AIDBさんポスト
AIDBさんは、
AIに関する論文や報告を
数多く紹介してくださる方です。
今回のポストは、
生成AIに与えるPromptに書く質問を
どこに書くと、より良い
回答が得られるのかを
示してくれています。
まぁ、タイトルどおり、
“質問を文章の最初に置くと
良い結果が得られる”と
しています。
これ、
私、以前から、やってます。
偶然ですけどね😅
もとの論文・報告は、こちらです。
Distance between Relevant Information Pieces Causes Bias in Long-Context LLMs
実は、この論文・報告には、
“質問をどこに置くべきか”は
どこにも書かれていません。
複数の関連情報を
含む位置バイアスを
評価するように
設計されたベンチマーク
LongPiBench を
紹介しているだけ
なのです。
しかし、
だからといって、
「中間の喪失」現象は
問題です。
そこで
ChatGPTに尋ねました。
●user
（URL）
これを読んで、概要をまとめてください。
ChatGPT
この論文「Distance between Relevant Information Pieces Causes Bias in Long-Context LLMs」では、大規模言語モデル（LLMs）の長文入力における位置バイアス問題に焦点を当てています。特に、入力の途中にある情報がうまく活用できない「lost in the middle」現象や、関連情報の間隔が広がることで生じるバイアスに注目し、新たなベンチマーク「LongPiBench」を導入しました。実験結果から、多くのモデルが一部のバイアスに強いものの、情報間の距離によるバイアスが依然存在することが確認されました。
●user
ここから、質問を長文入力のどこに置くべきか教えてください。専門用語は使わないようにお願いします。
ChatGPT
この論文の内容から、質問を長文のどこに置くかについてのヒントをまとめると、以下の点が挙げられます。
- 重要な部分の近くに：質問を関連情報の直前か直後に配置することで、質問と情報が繋がりやすくなります。
- 文書の前半または後半：特に関連情報が最初や最後にある場合、その近くに質問を置くことで、読解がスムーズになります。
- 短い間隔：質問と関連情報の間にあまり距離を置かないことで、モデルが正確な回答をしやすくなります。
この配置により、AIが答えを見つけやすくなります。
●user
この回答は上記URLからのものですか？
ChatGPT
いいえ、私の前の回答はURLの内容を参考にしたものであり、直接の引用ではありません。専門用語を使わずに、論文の要点を踏まえてアドバイスをまとめました。
●user
参考にしたのはどの部分？
ChatGPT
参考にしたのは、論文が示す「関連情報の距離とモデルのバイアス関係」に関する部分です。具体的には、質問と関連情報が離れているとAIが正確に回答しにくくなる、という現象の説明を元に、質問をどの位置に置くと良いかのアドバイスを構成しました。
●user
示された三点を考慮すると、なぜ、良い結果が得られるのでしょうか？
箇条書きでお願いします。
ChatGPT
論文の示す三つのポイントに基づく配置が良い結果を生む理由は、以下の通りです：
- 関連情報がすぐ近くにあるため、AIが情報を効率的に検索でき、精度が上がります。
- 質問が重要な情報の近くにあると、AIが文脈を取り違えるリスクが減ります。
- 情報と質問の間隔が短いことで、回答に必要な情報が一貫性を持って保持されやすくなります。
この配置により、AIの理解と回答の正確性が向上します。
●user
つまり、質問は、先頭か最後に書くべきなのですか？
また、どちらが良いですか？
ChatGPT
質問の位置としては、先頭か最後が効果的です。どちらが良いかは、質問の内容や文書の構成によります。
- 先頭に置くメリット：質問を読んだ後に情報を順に確認でき、理解しやすくなります。特に概要や背景をすぐ知りたい場合に効果的です。
- 最後に置くメリット：文書全体を通して必要な情報を確認した後に質問に集中でき、特に具体的な検討や確認が必要な場合に向いています。
多くの場合、先頭に置くことで、読み手やモデルが意図を早く理解しやすいでしょう。
結論としては、
タイトルどおりになりました。
実は最後の質問に
ChatGPTは、
一度、“最後に置く方がいい”と
出してきました。
再生成したのが
上記です。
ここからすると、
質問を置くところは、
最初と最後に、ダブルで置いたら
いいんじゃない？とも
思うわけです😅
そこで
再度、尋ねました。
●user
もし、最初と最後に同じ質問を置いたら、どうでしょうか？
ChatGPT
最初と最後に同じ質問を置くことで、AIが重要なポイントを見落としにくくなる効果が期待できます。これは、質問が二か所にあることでAIが意図を複数回確認でき、回答の正確性が向上しやすくなるためです。
メリット：
- 質問の意図が強調されるため、AIが回答に集中しやすくなります。
- 前後から質問にアプローチするため、長い文書でも情報の検索精度が上がります。
そのため、この配置は特に効果的な方法と言えます。
これは
質問に対する
文章が長文の場合に
威力を発揮しそうですね。
みなさんの
作品制作の糧に
なれば、幸いです。
今回は、ここまで。