先日開催されたEveryday AI New Yorkで、Aimpoint DigitalのAI部門責任者であるアーロン・マクレンドン氏は、企業における生成AIの実践的な導入について講演しました。大規模金融機関が、生成AIのスキルや知見を持たない状態から、いくつものインパクトがあるソリューションを構築し、本番稼働まで成功させた方法について、事例を共有しました。

このブログでは、生成AIに取り組むあらゆる段階の組織に彼らの貴重なインサイトを提供するために、講演から主要部分を抜粋して要約します。

戦略的優先順位付け：適切なユースケースを見つける

アーロンはまず、生成AIの旅を始める歳、戦略的な優先順位付けの重要性を強調しました。出発点として、高いROIと低いリスクを提供するユースケースを特定する必要があります。このアプローチにより、モデルを素早く本番稼動させることで生成AIの旅に勢いをつけることができます。これは潜在的なユースケースの徹底的な分析が必要となります。最終的に生成AIが大きな価値をもたらす可能性が最も高い3つの対象を特定します。

戦略的な優先順位付けから始めることで、単にAIを採用するだけではなく、実際にAIで実現することとビジネスゴールを整合させることができます。このアプローチで、リスクを軽減しリターンを最大化でき、多くの企業が陥りがちな落とし穴を回避することができます。

高ROI、低リスクのユースケースに焦点を当てることで、初期投資を正当化できるだけでなく、主要な利害関係者から社内の合意を得やすくなります。AIプロジェクトの成功は、経営幹部の支持とエンドユーザーの積極的な関与にかかっていることが多いため、これは重要なステップです。AIを活用した迅速な成果を示せれば、より大規模で複雑なAIプロジェクトを推進する際も、組織の信頼性を得やすくなるでしょう。

金融のような伝統的な業界であっても、生成AIによるイノベーションの余地が大いにあることを示しています。

生成AIモデルの構築と本番稼働

戦略的優先順位付けが完了すると、次のステップは特定された生成AIモデルの構築と本番稼働化です。アーロンはこのプロセスを通じて、ユーザーが使いこなせるようになることの重要性を強調しました。生成AIで得られるメリットのひとつは、人とコンピューターの間で生まれる自然な相互作用です。

今回の金融企業でのプロジェクトで選定した3つのユースケースは、それぞれ異なる部門のニーズに対応しています：

RAGのアーキテクチャ：少し複雑でしたが非常に効果的なRAGのソリューションを構築しました。チームメンバーは、RAGのコンポーネントをSalesforceなどの既存のソフトウェアと統合し、特徴量を強化しました。アーロンは、RAGアーキテクチャの構築を検討するにはいくつかの課題がありますが、ナレッジ管理と情報検索は効果的に具体的な価値を生み出すと指摘しました。
抽出、変換、ロード（ETL）の自動化： ETLプロセスを自動化することで、効率が向上し、手作業を減らすことができました。これはデータ処理をスピードアップするだけでなく、人為的ミスを減らすことにつながります。ETLの自動化は、特に膨大な量のデータを扱う際に、一般的かつ効果的な生成AIのユースケースです。このプロセスを合理化することで、大幅な時間とコストの節約につながります。
生成AIエージェント：組織のウェブサイトのホームページに生成AIエージェントを埋め込むことで、お客様は今より直感的でパーソナライズされたチャットで会話できるようになります。このユースケースから、生成AIが登場したことによって、顧客向けアプリケーションには多様な使い方ができることを示しています。会話型のインターフェースを提供することで、この組織は顧客のエンゲージメントを強化し、全体的なユーザー体験を向上させることができました。

学んだ教訓

アーロンは講演を通じて、このプロジェクトから学んだいくつかのベストプラクティスと教訓を語りました。高品質のデータを使用することは非常に重要です。古くから語られるAIの格言である「garbage in, garbage out （無意味なデータ入れても無意味な結果しか出てこない）」を繰り返しました。

アーロンはまた、埋め込み（Embedding）で大きなドキュメントを分割することの難しさや、パフォーマンス向上のためにデータベースをチューニングすることの重要性など、ベクターデータベースを扱う際のポイントについても語りました。ベクターデータベースが最新かつ正確であることは、生成AIソリューションの成功にとって極めて重要です。AIの回答を洗練させるための迅速なテンプレート化は有効であり、精度をさらに向上させるためのモデルの微調整も必要です。

継続的な監視と反復は不可欠です。AIモデル、特に本番稼働しているモデルは、価値を提供し続けるために定期的な更新と微調整が必要です。これには、データドリフトを監視し、トレーニングデータの妥当性を再評価し、パフォーマンスを維持するために必要に応じてモデルを調整することが含まれます。

この金融機関のAI導入ストーリーから、AI導入は一過性のプロジェクトではなく、改善と適応の継続的なプロセスであり、適切なプラットフォームによって劇的に改善される旅であるということを示しています。

Dataikuの活用

このユースケース作成においてDataikuは、生成AIモデルを構築し、展開に必要なツールを提供しました。この企業がプラットフォームとしてDataikuを選択したのは戦略的で、大規模データを運用するための堅牢な機能と、様々なAIツールや技術の連携ができる柔軟性、プラットフォームに依存しないことを考慮した結果です。

アーロンは、Dataikuを介したRAGソリューションのアーキテクチャについて具体的に説明しました。社内のWikiやビジネス文書などさまざまなソースからデータを取り込み、AIの検索機能を強化するためにベクトルデータベースを作成した方法についても詳しく説明しました。

また、生成AIモデルを展開する際の重要な課題の1つは、長期にわたる拡張性と管理性を確保することです。Dataikuのプラットフォームは、ソリューションを構築するだけでなく、生成AIソリューションを継続的に最適化でき、組織のニーズが進化しても効果的なものであり続けることができます。

Dataikuの生成AI機能についてもっと知る

Dataikuの生成AIによって、AIのパワーとあなたのビジネスの専門知識で相乗効果を生み出し、より深いインテリジェンスを得ることができるでしょう。生成AIのためのDataikuに関して、こちらから詳細を見る

原文: From Zero to Production: Driving Business Value With GenAI