ChatGPTのトライアルが大ブームですが、応答待ち時間が長いと感じられている方が多いと思います。
APIには、Streamモードが用意してあって省略時はオフですが、これをオンにすると、だいぶ早く感じられますね。
テストBenchでオンとオフを試せるようにしましたので、APIキーを用意して確認して見て下さい。
https://mori1-hakua.tokyo/gadget/testBench.html
More than 1 year has passed since last update.
ChatGPTのレスポンス時間改善策
Last updated at Posted at 2023-03-25
Register as a new user and use Qiita more conveniently
- You get articles that match your needs
- You can efficiently read back useful information
- You can use dark theme
List of users who liked
11