vLLM + LiteLLM を本線に、セルフホストAIワークスペースをワンコマンドで立てる手順（Ollama は最短ルート）
手元の環境に、チャットだけでなくエージェントタスクや MCP ツールまで含んだ AI ワークスペースを立てる手順です。本線の構成は 自分で運用する vLLM を LiteLLM の後ろに置く 形...
0
0
Comment0
2 search resultsShowing 1~2 results
Stocked
You need to log-in
セルフホストAIワークスペース「OpenMake LLM」を作った：vLLM/LiteLLM・MCP・エージェントを分離する設計
ローカルLLMをチャット画面につなぐだけなら、OpenAI互換APIとUIがあれば始められます。しかし、日常的に使えるワークスペースにしようとすると、次の課題がすぐに出てきます。 通常のチャット...
0
0
Comment0
2 search resultsShowing 1~2 results
Qiita is a knowledge sharing service for engineers.
- You can follow users and tags
- You can stock useful information
- You can make edit suggestions for articles