はじめに
近年話題となる生成AIは、文章生成、要約やコード生成など様々なユースケースに応用できますが、たまに生成された結果が理想的ではなくて、チューニングする必要があります。
ここでwatsonx.aiのプロンプトラボで生成された結果を改善するいくつかの方法をご紹介させていただきます。
日本語要約の例
まず、watsonx.aiのプロンプトラボで日本語の文章を要約してみましょう。
ここで結果が正常に生成されましたが、要約結果の質が高くないです。
ここで、要約結果を改善するための三つの方法を紹介します。
パラメーター調整
生成された結果が理想的ではなくて、よりよくするために、パラメーターを指定して、生成された出力内容を調整することが可能です。
調整方法としては、watsonx.aiプロンプトラボのUIで右上の「モデル パラメータ」を押すと、調整可能なパラメーターがUIで表示されます。
ここでよく使われているパラメーターを説明します。
各パラメータについてもっと詳しく知りたい場合、
こちらのリンクをご参考してください：
先ほどの要約例については、最大トークン数を200にし、反復ペナルティを1.2にし、デコードをGreedyにしたら、結果が良くなったことがわかりました。
このように、パラメーターの設定を通じて、
モデルが出力を生成する方法を制御して、出力結果の調整が可能です。
プロンプトエンジニアリング
まず、言葉の定義について説明します。
プロンプトとは、ユーザーがAIモデルに入力する質問や指示のテキストを指します。
そして、プロンプトエンジニアリングとはAIサービスに望ましい結果を得るために、適切なプロンプトを設計するスキルです。
ここで、プロンプトエンジニアリングのいくつかのテクニックをご紹介させていただきます。
Zero-shot＆One-shot&Few-shotsプロンプティング
まずは、Zero-shotプロンプティング、One-shotプロンプティングとFew-shotsプロンプティングを紹介します。
Zero-shotプロンプティングとは、モデルが具体的な方法の例を示さずにタスクを完了するプロンプト手法です。
One-shotプロンプティングは、1つだけ例を与えてあげるプロンプト手法です。
Few-shotsプロンプティングは、複数の例を与えてあげるプロンプト手法です。
watsonx.aiでより良い結果を生成させるために、いくつかの具体例を与えて、AIに例のフォーマットや文脈を学習させて、結果を改善することが可能です。
例の追加方法としては、プロンプトラボの画面で、例（オプション）のところで具体例を追加することが可能です。
先の要約例で二つの具体例を追加することで、試してみました。
few-shotsプロンプティングにしたら、要約結果も箇条書きで生成されました。
このように、具体例を追加することで、生成結果をよくすることもできます。
プロンプト作成Tips
その他にプロンプトを作成するときのいくつかのTipsを紹介します。
プロンプトをできるだけ詳細に作成した方がいいです。
・命令に、LLMに具体的な役割を追加することで結果を良くすることも可能です。
例としては、「あたなは要約に非常に優れているエージェントです」みたいな記載ができれば、結果も改善できます。
・命令を明確に具体的に書くこと
例えば、「一行当たり100文字ぐらいで要約してください」などの記載を加えれば、結果も良くなります。
まとめ
今回は、watsonx.aiのプロンプトラボでの要約を例として説明しました。いつくかの方法を工夫することで、要約の結果をよくすることを示しました。
以上でありがとうございます。
参考資料