概要
大規模言語モデルを活用してテキスト生成や応答生成を行う核となるブロック。
設定ポイント
- プロンプトテンプレートの作成: AIの役割を定義。
- システムプロンプト: 具体的な指示を記述（例: 「あなたは製品サポートの専門家です。」）。
- ユーザープロンプト: ユーザーからの具体的な質問を受け付ける。
前提
- モデル設定
- APIの取得
Step1：パラメータの設定
-
USER :
- ユーザーの入力: userは、ユーザーがモデルに入力するテキスト
- 対話の継続: systemとuserのやり取りを通じて、会話形式の対話を実現
- 動的な応答: userの入力内容に応じて、モデルが柔軟に応答を生成
-
SYSTERM :
- モデルへの指示: systemは、モデルに対して、どのような役割を担い、どのような情報を生成すべきかという指示を与えるためのプロンプト
- 文脈の提供: モデルが生成するテキストの文脈を事前に設定し、一貫性のある応答を促すことができる
- 制約の定義: モデルの生成範囲を限定し、望ましくない出力を防ぐことができる
-
Temperature : ランダム性や多様性の調整. 大きいほど生成内容の多様性が大きい.
文章の正確性などは0.1や0.2, 創造的な物語の出力には0.9や1 -
Top-p(Nucleus)Sampling：予測する次の単語の閾値
累積確率, 小さいほど出力は多様になる. -
Presence Penalty：対数確率にも続いてペナルティを加える. 生成されるテキストが繰り返しにならないように設定するペナルティ項
-
Frequency Penalty：同じトークンが繰り返し出現することを抑制し、多様性のあるテキストを生成しやすくなる. 確率的に同じトークンが続きやすい
※目的 Frequency Penalty：単語の多用を防ぎ、多様性を高める
Presence Penalty：一度出現した単語の再出現を防ぎ、多様性を高める -
Max Tokens：出力の最大トークン
-
Seed：出力のブレ. 大きいほど固定
-
response_format：出力値を指定できる. テキスト化,JSONファイル
-
Stop sequences：終了するキーワードの指定.
実験
あなたはstable diffusionのプロンプトの作成者です．入力されたお題を英単語で出力し，[,]で区切り出力してください
入力：ワンピースのルフィが飯を食べている．
| モデル（追加ナリッジ無し） | 結果 |
|---|---|
| gpt-4o-mini-2024-07-18 | Luffy, eating, One Piece, joyful, colorful, anime, food, cheerful |
| gpt-4o-mini | Luffy, One Piece, eating, food, anime, cheerful, pirate, adventure, colorful, dynamic |
| gpt-3.5-turbo | One Piece, Luffy, eating |
| gpt-3.5-turbo-16k | Luffy, eating, One Piece |
| gpt-3.5-turbo-0125 | One Piece, Luffy, eating |
少ない単語からはgpt-4o以降がやはり強いことが分かる.