ローカルでサクッと動くLLM推論。「llama.cpp」を実際に試してAPIサーバとして活用してみた
1. はじめに(Introduction) 最近、ローカルで大規模言語モデル(LLM)を動かす技術が盛り上がっています。 今回は、OllamaやLM Studioといった有名なローカルLLMツー...
1
0
Comment0
2 search resultsShowing 1~2 results
You need to log-in
1. はじめに(Introduction) 最近、ローカルで大規模言語モデル(LLM)を動かす技術が盛り上がっています。 今回は、OllamaやLM Studioといった有名なローカルLLMツー...
記事概要 就職氷河期世代の業界未経験者がエンジニアデビューした最初のタスクとして【準備期間一週間でG検定に合格】を目指します。 いい歳で業界未経験ですが一念発揮して2020年3月に新人エンジニア...
2 search resultsShowing 1~2 results
Qiita is a knowledge sharing service for engineers.