【随時更新】RTX PRO 6000 Max-Q x4でいろいろな大規模ローカルLLMを使ってみた所感
なにこれ 手元にあるRTX PRO 6000 Max-Qが4基搭載されたGPUサーバーを使って大規模ローカルLLM(数百Bクラス)を起動してみて、ベンチマークには表れない使い勝手を備忘録として残...
9 search resultsShowing 1~9 results
You need to log-in
なにこれ 手元にあるRTX PRO 6000 Max-Qが4基搭載されたGPUサーバーを使って大規模ローカルLLM(数百Bクラス)を起動してみて、ベンチマークには表れない使い勝手を備忘録として残...
はじめに DGX Sparkを2台入手したので,Dual DGX Spark環境を構築して, 巨大なローカルLLMモデル(Qwen3-235B-A22B-FP4)を動かしてみた備忘録です。 プロ...
はじめに LLMの流行りでMarkdown形式の文章を書くことが増えているような気がします。これまではVSCode+拡張機能(Markdown All in One & Markdown...
ここまでの話 前編からの続きです。 プロキシ環境下でOllamaとOpenWebUIを使用してローカルLLM環境を構築したものの, DockerコンテナをrunしてからOpen WebUIのペー...
概要 以下の記事を参考に,OllamaとOpen WebUIを使用してローカルLLMの環境を構築しました。 Gemma 3 で RAG 機能付きの安全なローカル AI チャット環境を構築する た...
経緯 PDFからコピーした文章の改行を(1回の動作で)消したい!と思い調べたところ以下の記事にたどり着きました。 【Python】クリップボード内の改行を削除するプログラムを作る+windows...
はじめに Qiitaには少し古いですがこんな記事があります。 UE4で科学可視化やってみよう この記事では,元データをparaviewで一度可視化して3Dデータとして保存した後に,その3Dデータ...
本記事の内容 ベイズ最適化用のGUIアプリケーションBOXVIA (Bayesian Optimization EXcutable and VIsualizable Application) を...
はじめに タイトルの通り,Pythonを使って簡単なアプリを作ります。 今回のモチベーションはこれ。 Wordで数式を書く際にMathtypeのLite版を使用しているのですが,先日から数式を編...
9 search resultsShowing 1~9 results
Qiita is a knowledge sharing service for engineers.