趣旨
以前IBM社主催の「Data & AI サーキット#1: 営業＆技術者編 - Langflowハンズオン -AIエージェント構築を効率化」に参加してきました。
主にLangflowを使ったチャットボットの作成方法とwatsonx.aiの活用方法に関するセミナーでした。
ハンズオン資料を基に、SPSS Modelerに関する簡易Q&Aチャットボットを作成しましたので、ご紹介させていただきます。
RAGの構築は初めての経験でしたが、クリックベースで簡単なものであればデモを倣うだけで作成できます。
作業のハードルはかなり低いと思いますので、使用可能なデータがあれば是非お試しください。
資料は下記にて公開されています。
対象読者
・RAGやLangflowの導入を検討されている方
・社内資料などの活用を検討されている方
・SPSS Modelerを導入していて、活用方法を検討している方
前提条件について
本記事についてはハンズオン内で共有されたIBM Techzoneの環境を使用しています。
Techzone内に展開されている各デモ資料に基づいて作業しています。
目次
1章 Langflowとは
公式ドキュメントには下記の様な説明があります。
Langflowは、AIアプリケーションを構築するためのオープンソースでPythonベースのカスタマイズ可能なフレームワークです。エージェントやモデルコンテキストプロトコル（MCP）といった重要なAI機能をサポートしており、特定の大規模言語モデル（LLM）やベクトルストアを使用する必要はありません。
ハンズオンを通して感じたことは、主要なLLMやベクトルデータベースに対応している点とローコードで作成可能なのでLangChainよりもハードルが低い点です。
また、処理のフローを作成するのはSPSS Molderの操作に慣れている方には親和性があると思います。
本記事では
・watsonx.ai環境の作成
・AstraDBへのデータの準備
・Langflowでのチャットボットの作成
の流れでチャットボットを作成してみようと思います。
デモ資料の「Langflow on RHEL 9 IBM Cloud の利用方法」を進めるとLangflow をブラウザ経由で試すことができます。
5つのデモフローが準備されているので、こちらを活用していきます。
2章 watsonx.aiの準備について
Langflowでwatsonx.aiを使用するためにデモ資料「watsonx.aiの準備」を実施します。
1点補足としまして、2.2プロジェクトの作成の部分について、
赤枠の部分を左クリックすると作成の部分を選択出来るようになります。
資料にもありますが、下記3つはメモ帳などに保存をお願いします。
・Project ID
・watsonx.ai URL
・API Key
3章 テストデータとAstraDBへの格納について
本記事ではテストデータとしてSPSS Modeler 18.6のユーザーズガイドを使用します。
ここでは目次と索引を除いたP1~P267をテキスト化したデータを使用します。
テキストデータであれば他のデータでもこの後の作業には基本的に問題がないはずです。
もし何かエラー等発生しましたらコメント欄にて教えて頂けますと幸いです。
次に、デモ資料の「Astra DBのセットアップ」を実施してください。
作成したAPI keyは後程使用します。
セットアップが完了しましたら、Langflowのデモフローの中の
「Data Ingestion with watsonx.ai」を選択して編集していきます。
ここで元のデモフローを残したい方は右側の選択ボタンからduplicateを選ぶとバックアップを取れます。
以降の作業はデモ資料「RAGのデモ説明」内の個人のAstra DB の利用の部分になります。
まず初めにテキストファイルを読み込みます。
検索欄に「file」と入力し、Read Fileを作業画面に追加し、
読み込むファイルを指定してください。
検索欄に「split」と入力し、Split Textを作業画面に追加します。
ここでは各設定項目を下記に設定しています。
Chunk Overlap: 150
Chunk Size: 900
Separator: 。
設定後、Read Fileと青い部分でリンクさせます。
また、デモフローの「IBM watasonx.ai Embeddings」をコピーします。
project idとAPI Keyに3章で作成した値を設定してください。
EndpointとModel Nameはそのままで大丈夫です。
デモフローのAstra DBをコピーします。
まず最初にAstra DB Application Tokenには本章の中で作成したAPI Keyを設定してください。
次に、セットアップの中で作成したDatabaseとcollectionを選択します。
設定が完了したら、Split Textと赤い部分でリンクさせて、
Embeddings Modelと緑の部分でリンクさせます。
最後に▷の部分を左クリックしてデータベースにデータをエクスポートします。
成功しているとAstra DBの中の作成したテーブルにデータが入ります。
4章 チャットボットの作成について
デモフローの中の「VectorRAG-Manufacturing-watsonx.ai」を使用します。
赤枠の部分については3章での作業と同じになります。
これまでのセットアップで作成した値をそれぞれの項目に設定します。
今回モデルはデモフローと同じまま進めます。
chat inputに「重複ノードを使うときの注意点を教えてください」
と設定して、Playgroundを左クリックします。
フローが成功するとチャットが返ってきます。
記事作成時はトークン制限に引っかかってしまい、これ以上聞けていませんが、
テスト時は会話も出来ました。
あとがき
以前参加したセミナーの内容を基にSPSS Modelerに関するチャットボットを作成してみました。
GUIにてチャットボットを作成できる点からかなりハードルは低い印象を受けました。
ベクトルDBでのデータの持ち方等回答精度の向上については別途必須であり、セミナー内ではフォルダ構成を活用したGraphRAGの内容もあったため、テストデータを作成し、それらにも挑戦してみたいと思います。
記事の内容につきましてご不明点、ご指摘ございましたらお気軽にコメントください。
拙い文章ではございますが、最後までお付き合いいただきありがとうございました。