はじめに
こんにちは！CBcloudのRyoです
今回は2024/06/20、21で開催されたAWS Summit Japan 2024の1日目に参加してきました！
150以上のセッションと250以上の展示ブースなど大規模なイベントで非常に楽しかったです
今回は主に今話題の生成AIや私が会社でメインに開発しているカスタマーサポート系をセッション・ブースを見てきました
そちらを共有できればと思います
セッションスケジュール
今回オンラインで参加したセッションは3つです
①Amazon Neptune Analytics と生成 AI 活用
11:50 - 12:30 AWS セッション(Level 300: 中級者向け)
テーマ：生成 AI
Amazon Neptune は、スケーラビリティと可用性に優れた、フルマネージドなグラフデータベースサービスです。このセッションでは、AWS re:Invent 2023 で発表された Amazon Neptune の新しいグラフ分析エンジン「Amazon Neptune Analytics」について詳しく解説します。また、近年急速に活用が進んでいる生成 AI と Amazon Neptune Analytics を組み合わせたソリューションについてもご紹介します。
突然ですが弊社ではBedrockを使ったナレッジベース（RAG）を使ってAIの検証をしています
気になる方いましたらまだ全ての編を書ききれていませんがこちらの記事をご確認ください↓
今回このセッションを受けた理由はRAGを使う上で課題となるトークン数の問題や、別々のドキュメントの情報を繋ぎ合わせるなどナレッジベースでの限界を徐々に感じてきた時、このような記事を教えてもらいました
ナレッジベースではなくナレッジグラフを使い、オブジェクト間の関係を使った生成AIの強化を行えるというものです
私はグラフの知識が全くないのですが、このナレッジグラフに興味があったのセッションを受けてみました
本セッションではグラフとは何か？から始まり具体的なソリューション、ユースケースと共に中身の簡単なアルゴリズムについて説明されてます
ユースケースでは実際にLangChainを使ったアーキテクチャも紹介されてます
結論から言うと無茶苦茶面白く初回にこのセッションを受けられて来てよかった...となりました
ただもしかすると私はRAGそのものの実装をしたことがあるのですんなり聞くことができましたが、ナレッジグラフの前にLangChainやRAGの仕組みについて事前に知っていないと少し難しいかもしれません(Level 300: 中級者向け)
アカウントがある方はこちらからアーカイブを確認できます
②自社データを用いた生成 AI の活用事例
12:50 - 13:30 AWS セッション(Level 200: 初級者向け)
テーマ：生成 AI
世界中のデータ組織のリーダーが他社と差別化するために生成 AI ソリューションで自社のデータセットを利用しています。AWS のお客様で生成 AI ソリューションを本番環境で利用している事例から、データがどのように基盤モデルの事前トレーニングや、Retrieval Augmented Generation(RAG) などのテクニックを用いたカスタマイズに活用しているかを紹介いたします。
こちらは最初のセッションから少し初心者向けにBedrockを使った文章・イラストの生成AIのユースケースについて説明されています
既存のモデルを使うか、それとも一から自分たちで作るか ここではまずは既存の生成AIを触りつつ、独自の生成AIを作っていくといいと語られています
（見切れていてすみません）
段階的には最初にRAG、次にFineTuning、最後に継続的事前学習を作っていくカスタマイズの流れを説明しています
弊社でも最初にAIを導入する際、一からモデルを作るのではなく費用対効果が高いRAGを使おうとなりました
このセッションではそういった段階でしていることの説明と、それらのステップを踏みながら全てのカスタマイズを使いいつつ運用を行なっている企業のユースケースについて説明されています
私の主な開発はカスタマーサポートのオペレーションシステム（タスク管理・電話・チャット）なので、KARAKURIさんが使うカスタマーサポート特化のモデルはかなり気になりますね
③Amazon Connect と 生成 AI 機能が実現するコンタクトセンターの変革
13:50 - 14:30 AWS セッション(Level 200: 初級者向け)
テーマ：生成 AI
コンタクトセンターの顧客は、目的に応じた使いやすく迅速な問い合わせ方法を求めています。一方で従業員は複雑な問い合わせに対応するため膨大なナレッジを把握しながら高度な業務を行い、またその管理者も複雑な業務を管理することが求められています。Amazon Connect の生成 AI 機能は、顧客と従業員さらには管理者の体験を向上させ、ビジネス成果を高めることを支援します。ワンストップの最適化機能はエージェントの対応力と操作効率の向上を可能にし、セルフサービス機能の強化、SMSやビデオ通話といった新しいチャネルによって、顧客体験の改善が期待できます。このセッションでは、Amazon Connect の生成AIと新しいチャネルが、どのようにコンタクトセンターの進化を促すかをご紹介します。
弊社でも使用しているAmazonConnectの生成AI機能について説明されてます
ただAmazonConnectに限らず、生成AIの活用のためのポイントについても触れているので、エンドユーザー（顧客体験）だけではなく色々な視点から生成AIの使い方を説明してくれました
AmazonConnectではカスタマサポートとして問い合わせを受ける側のことをエージェントと呼び、そのエージェントをアシストの為に生成AIが活用されています（エージェントアシスト）
どのようにアシストしてくれるかのデモ画面を紹介してくれていて、聞きながら頭でどうやったらチーム内ですぐに使えるかをうんうん考えていたので聞きながらも楽しかったです
どんなものかというとカスタマーサポートが問い合わせを受けると、生成AIが応答をし、かつ実際の後続処理対応をどうするべきかをエージェントに教えてくれます
右側のエリアでエージェントアシストが次何やるかを教えてくれている
また文章の要約は勿論顧客セルフサービスや顧客データのマッピングもできるので、使いこなすことができればカスタマーサポートは大いに変革する可能性があるのを感じられました
また関連ブースとしてAmazonConnectの活用方法について聞けるブースがあったので、実際に行って聞いたり試したりしました(後述)
展示ブース
AWS Village
Amazon alexa
ここでは小さな個室で実際にAmazonBedrockとalexaを連携しているツールを体験することができます
ケースとして家に帰ってきたあとalexaと日常会話をするというものです
「ただいまアレクサ」
「おかえりなさい 今思いついたギャグを言います アイスを食べます あーいいすね どうですか？」
「あんまりだよ」
微笑ましい会話ではありましたが、驚くべきはその速度です 動画を取れなかったのは残念ですがおおよそ3秒ほどで会話できています（まだ人間に比べれば遅いですが）
モデルはClaude 3 Haikuを使っているとのことで弊社でももしカスタマーサポートの一次対応などはHaikuを使うよう検討できそうです
他にも金融系のユースケースでAmazonConnectで接続している通話内容をリアルタイム文字起こしして監視できるダッシュボードのデモもありました
また生成系ではありませんが、私は普段フロントエンドを開発していて、DATADOGでフロントのユーザーセッションの再現動画なるものができると噂を聞き、ブースへ遊びに行きました
実際にユーザーセッションの動画を再現していたのとその操作の簡単さはびっくりだったのでこれも注目してます
あとDATADOG Tシャツももらいました（可愛い）
他にもAIに関わる検索プラットフォームのElasticsearchやデータプラットフォームのSnowflake、特にIBMなんかはAIガバナンスなるもののミニセッションをしていてセキュリティから何までAIで大盛り上がりでしたね
今は皆レベル2を使っているが、レベル3が日常になる世界が来るとのこと
終わりに
今回初めてAWSのSummitに参加しましたが、見切れない部分も多くもっと早くくればよかったと思いました！（クッションはもうなかった）
これからアーカイブもどんどん出てくるので気になったのは片っ端から見ていきたいですね
二日目は行けなかったので来年もし開催するなら勿論いく予定です！