ragas: Exception raised in Job[-]: TimeoutError() は、LLM の 利用上限でもあった

背景

TimeoutError が直らないので、ちゃんと log を確認してみたら・・

429 エラーが出いてたっていう、おバカな記録

結論

ログを見て、以下のようになっていれば、LLM の 利用制限になっていたって話だと思われる。

DEBUG:openai._base_client:Retrying due to status code 429

対策

Azure OpenAI Service だったので、RPMを上げて解消

今回は、4o/4o-mini で、10k としていたので、上限を挙げたが・・429 がなくなるまでは上げてない

1. 100k にしたことで、Timeout は消えた
2. 200k にしても、429 は消えない

あとがき

最後に、ragas 関係のエラーまとめを書くかな・・

実はもう一個べつのエラーが出てるんですけどね・・・