初めに

以下の投稿にて、ollamaでGraniteモデルをローカルで動かしてみた記事（※1)を投稿しましたが、そのままではユーザーに公開できないため、Dify（※2）でWebアプリ化してみたので、紹介します。

参考
※１：「Graniteモデルをローカルで動かしてみた」

※２：Dify
LLMアプリ開発プラットフォーム。ローコード/ノーコードでLLMアプリを作成可能

前提条件

・dockerおよびdocker-composeが導入済みであること
・ollamaでgraniteモデルを実行済みであること

git clone https://github.com/langgenius/dify.git

cd dify/docker

cp .env.example .env

docker compose up -d

http://172.16.185.32/install

アプリの種類：チャットボット
アプリのアイコンと名前：任意の文字列とアイコン

※チャット実行例

上記の手順で見てきた通り、Difyを使用すると、ノーコードでLLMアプリを作成することが可能です。
Difyにはいろいろな機能がありRAGを使用したアプリを作成することも可能です。