AnythingLLM と Ollama で agent を試す

はじめに

前回紹介した AnythingLLM はRAGだけでなく、agent も簡単に利用できるので試してみます。2024/6時点、rag-search, web-scraping, web-browsing などのagentが実装されています。

設定

Workspace の設定の Agent Configuration で Agent LLM Provider と Agent model を選択します。

Ollamaだと「LLMの能力不足でちゃんと動かないかも」と言う様な警告が出ますが、しょうがないので無視します。ローカルでも CommandR+ などより高性能なモデルが使えれば、よりちゃんと動く可能性が高まると思います。

実行

@agent に続けて URL を与えてみました。

自動で URL 先にアクセスして、内容を要約してくれました。
なお、続きで「01. Getting Started」について聞いてみましたが、上手く回答してもらえませんでした。今回使用したLLMの能力不足が原因かと思われます。

ちゃんとした動作例は公式ドキュメントにありますので、見てみてください。

まとめ

AnythingLLM で agent を試しました。最低限の動作は確認できましたが、LLMの能力不足のせいか、十分な結果は得られませんでした。