1
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

DifyのLLMノードで苦労した話

Posted at

どこで苦労したか

下の「フロー」系ではできなかったのに、チャットボットなどでAPIキーを使うと、うまくいく。
また、Gemini Flashを使おうとしても、出来なくて、ChatGPTのAPIならうまくいった。

筆者の環境

関係ありそうなものだけ抜粋
Chrome: 2025/10/23 時点で最新
Dify: ブラウザ版 2025/10/23
Gemini API: 無料枠
ChatGPT API: Dify 登録時のクレジット

エラーになった方

image.png
image.png

うまく動く方

GeminiのAPIキーを使用
image.png

現状

Gemini だと失敗
image.png
image.png

ChatGPTだとうまく動く
image.png

ChatGPTのデータ処理の中身(ChatGPTに送られた内容) ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/4216435/6050328e-7586-4662-9aca-fd2852326e54.png)

{
"finish_reason": "stop",
"model_mode": "chat",
"model_name": "gpt-4",
"model_provider": "langgenius/openai/openai",
"prompts": [
{
"files": [],
"role": "system",
"text": "hello\n"
}
],
"usage": {
"completion_price": "0.00054",
"completion_price_unit": "0.001",
"completion_tokens": 9,
"completion_unit_price": "0.06",
"currency": "USD",
"latency": 0.8659800570003426,
"prompt_price": "0.00027",
"prompt_price_unit": "0.001",
"prompt_tokens": 9,
"prompt_unit_price": "0.03",
"total_price": "0.00081",
"total_tokens": 18
}
}

画像のように、ChatGPTとGeminiで状況を同じにそろえたのに、ChatGPTはでき、Geminiはできない
調べたり、生成AIに聞いてみた限りだと、DifyがChatGPTを前提に作られている節があるためだとわかった。
これによって、プロンプトとかの差ができているのだと思う。

解決法

image.png

メッセージ追加というボタンからsys.user_idを追加しなければいけなかった。
「メッセージ追加」というボタンはSYSTEMの入力欄のすぐ下にある。
image.png

ChatGPTと同じ構成でダメだったのは、内部の処理の違いによると思う。

感想

最近様々なツールが出てきているのは便利でいいが、内部がどうなっているかわからなくなってきているので、いろいろ試しながら理解していくしかないと感じている。
ただ、DifyのようにGitHubで公開されているソフトは内部が見ることができるので、楽しかったりする。

1
1
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
1
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?