Open WebUIの導入・更新・ここがすごい
Open Webuiとは Open Webuiは、ローカル環境でも動かせるチャットボットのインターフェース。Dockerコンテナなので１コマンドでまるっと導入して即座に動かせる上、高機能だし安定...
6
5
Comment0
16 search resultsShowing 1~16 results
Stocked
You need to log-in
ローカルLLMが応答するLineBOTを作ってみる
この記事では、個人のUbuntu 22.04 上にローカルなLLMサーバを用意し、LINE上のチャットボットとして動かすことに成功したので、その全体的な構築手順や得られた知見を書き残します。 最...
2
1
Comment0
Difyの導入、およびローカルLLMをモデルプロバイダに設定する
はじめに この記事では、Difyをコンテナとして導入し、ローカルで動作するLLM（Large Language Model）をモデルプロバイダとして設定する方法を解説する。また、Difyでクエリ...
3
2
Comment0
LINE Bot（ローカル）とDify（ローカル）とLLMサーバ（ローカル）の連携
全体像 LINE Botは以下の2つの主要なコンポーネントで構成される。 Flaskで構築されたウェブサーバ LINEサーバからのコールバックを受信する。 ユーザーメッセージをDify API形...
4
1
Comment0
Difyでのワークフロー作成とAPI化及びハマりポイント
複数のLLMを活用したワークフローの作成手順 Difyを利用して複数のLLMを組み合わせたワークフローを作成する手順について解説する。本記事では、基本的な設定からAPIとしての利用方法、運用時の...
4
1
Comment0
ローカル版DeepSeek対決：DeepSeekR1(32b) vs DeepSeek-R1-Distill-Qwen-32B-Japanese ﾌｧｲｯ！
0.そうだ、DeekpSeekR1対決させよう ChatGPT o1を蒸留した（と噂される）DeepSeek R1の32b版 更にそれを蒸留したDeepSeek-R1-Distill-Qwen-...
1
0
Comment0
Open WebUIの変な使い方メモ（コンテナ版Open WebUIで埋め込みモデルのAPIを使う）
コンテナ版Open WebUIで埋め込みモデルのAPIを使う …といっても2025/01/26現在、Open WebUIが提供しているOPEN AI互換APIにおいてembedding用のAPI...
0
1
Comment0
Neo4jへの日本語テキスト登録手順のメモ（ナレッジグラフ・ベクトルDB・フルテキストインデックス）
引き続き以下記事をまったり追試していく。 要旨 Neo4jに、とりあえず"走れメロス" のテキスト登録する。 以下の３観点での登録を試みる。 ナレッジグラフの生成 ベクトル埋め込みの作成 フルテ...
2
1
Comment0
Dockerコンテナを利用したNeo4jの環境構築とAPOCのインストール手順
要旨 日本語データでGraphRAGを動かすのに挫折したので、次の矛先として ナレッジグラフを使ったRAGを実装した事例であるこちらの記事を、まったりと追試していく。 https://qiita...
2
0
Comment0
ローカルLLM＆日本語テキストによるGraphRAGのテスト（失敗）
概要 ローカルLLM＋GraphRAGで日本語テキストデータのインデックス作成を試みたが失敗したので、その途中までの作業記録を残す（GraphRAGの多言語対応が進んだらリトライしてみよう…） ...
0
0
Comment0
Elasticsearchを用いたハイブリッド検索とRRF検索の実装と比較（RAGで使う想定での評価）
要旨 Elasticsearchを利用して、ハイブリッド検索とRRF（Ranked Retrieval Fusion）検索を実装し、自然文クエリに対する網羅性を比較した。以下に各手法の実装方法と...
1
1
Comment0
Elasticsearchの中にPDF文書を（ベクトル化データ付きで）登録してみる
要旨 Elasticsearchに「インデックス」を作成する 単純にPDFファイルを「インデックス化」する PDFファイルの埋め込みデータを作成しながら「インデックス化」する インデックス RD...
0
0
Comment0
ElasticsearchとKibanaの設定方法(docker compose版): プラグイン導入と日本語化
要旨 以下の記事の内容を、ElasticSearch 8.17.0のDocker compose版に同梱されているkibanaコンテナに対して実行した。ほぼそのままの内容で流用できた（感謝） h...
0
1
Comment0
ElasticSearchを、Docker Compose でマルチノード クラスターとして起動する
前提 OS：ubuntu 22.04 dockerコマンド・docker composeコマンドは利用可能な状態 導入手順とトラブル対応 概ね以下のガイドをそのまま実行。バージョンは8.17.0...
1
0
Comment0
ローカルLLMのHW環境構築：RTX 4060ti(16GB)x2 + ollamaによるマルチGPU環境
要旨 いつの間にかollamaはマルチGPU対応していたらしい ２本目のPCIeスロットが3.0かつ4レーンという低性能、更に560W電源でもTDP165WのRTX4060tix2を支えて安定稼...
10
9
Comment0
letta（旧memGPT）をローカルLLM（Ollama）で動かしたけどまだまだ使い物にならなかった話
趣旨 Ubuntu 22.04環境でコンテナ版Lettaを動かすことに成功したので、備忘録として手順や注意点を記載します。 前提条件 本記事は以下の環境および前提を想定しています。 OS: Ub...
0
0
Comment0
16 search resultsShowing 1~16 results
Qiita is a knowledge sharing service for engineers.
- You can follow users and tags
- You can stock useful information
- You can make edit suggestions for articles