はじめに
お疲れ様です。yuki_inkです。
AWS re:Invent 2023 に参加しています。
今回の最大のアップデートと目される「Amazon Q」。
本記事は、Qに関する情報をまとめ、また実際にマネコンから触ってみることで、Qの理解を深めようという趣旨のものです。
Amazon Q とは
生成AIを活用した、エンタープライズ向けアシスタントサービスです。
re:Invent 2023 のCEO Keynoteで発表されました。
セキュリティを最優先事項とするAWSらしく、セキュリティ、そしてプライバシーにも配慮されており、企業のポリシーやデータアクセス制限に適合するように設計されています。
「Amazon Qは、その内部のモデルのトレーニングためにお客様の情報を一切使用しない」と明言されているため、今まで生成AIの活用に躊躇していた企業も安心して利用が可能です。
Qの立ち位置、現時点の機能の概要は、以下のブログが大変分かりやすかったです。
マイクロソフトが「GitHub Copilot」や「Microsoft 365 Copilot」など「Copilot」を同社の生成AIサービスの包括的なブランドとしているように、AWSは「Amazon Q」ブランドにおいてコーディング支援やデータ分析、業務支援、コールセンター支援などの多様なAIサービスを発表しました。
KeynoteはYouTubeにも上がってますので、ぜひご確認ください！
こちらのリンクから、Amazon Q発表のシーンに飛べます。
Amazon Q の機能
本記事では、上記のブログを参考にしつつ、2023/12/1現在までに追加で発表された機能も踏まえ、Qの機能を以下の通り分類して記述を行います。
- AWS上でのシステム開発支援（Amazon Q For AWS Builder Use）
- 業務支援（Amazon Q For Business Use）
- データ分析と可視化（Amazon Q in Amazon Quicksight）
- コンタクトセンター支援（Amazon Q in Amazon Connect）
- 外部チャットアプリとの連携（Amazon Q in AWS Chatbot）
- ネットワークのトラブルシューティング（Amazon Q network troubleshooting）
- SQLクエリの生成（Amazon Q generative SQL in AmazonRedshift）
- ETL処理の支援（Amazon Q Data integration in AWS Glue）
- コードの自動変換 （Amazon Q Code Transformation）
- コーディング支援（Amazon Q in CodeWhisperer / Amazon Q in Amazon CodeCatalyst / Amazon Q in IDE）
- AWS Console Mobile Appとの連携（Amazon Q in the AWS Console Mobile Application）
AWS上でのシステム開発支援（Amazon Q For AWS Builder Use） は、具体的には以下のような機能が含まれています。
チャット – Amazon Q は、AWS のサービスの選択、AWS CLI の使用法、ドキュメント、ベストプラクティスなど、AWS に関する自然言語の質問に英語で回答できます。Amazon Q は、情報の概要または詳しい手順を返信し、情報ソースへの参照も含めます。
メモリ – 会話のコンテキストを使用して、会話中の今後の応答を通知します。
コードの改善とアドバイス – IDE 内でソフトウェア開発に関する質問に答え、コードを改善し、新しいコードを生成できます。
トラブルシューティングとサポート – AWS コンソールのエラーを理解するのに役立ち、AWS の質問や問題に対処するためのライブサポートエージェントへのアクセスを提供します。
顧客フィードバック – フィードバックフォームを通じて送信された情報とフィードバックを使用して、サポートを提供したり、技術的な問題を解決したりするのに役立ちます。
AWSのサービスに関連する機能ですね。
まさにAWS Expertとして、色々やってくれるようです。
上記ウェブサイトに記載はないですが、EC2インスタンスタイプの推奨も「AWS Builder Use」に含まれると思います。
業務支援（Amazon Q For Business Use） は、具体的には以下のような機能が含まれています。
メタデータを使用したフィルタリング – ドキュメント属性を使用して、エンドユーザーのチャットエクスペリエンスをカスタマイズおよび制御します。現在、API または Amazon Q データソースを使用する場合にのみサポートされています。
引用を伴うソースの帰属 – Amazon Q ソースの帰属を使用して応答を検証します。
ファイルとチャットのアップロード – エンドユーザーがファイルをチャットに直接アップロードし、アップロードされたファイルデータを使用して Webエクスペリエンスタスクを実行できるようにします。
クイックプロンプト – エンドユーザーに Amazon Q ウェブエクスペリエンスの機能を知らせる機能サンプルプロンプト。
こちらはAWSの外の世界のドキュメント・アプリケーションと連携し、業務を支援してくれる、エンタープライズチャットアシスタントを中心とした機能です。
2023/12/1時点の情報です。
今後確実に機能追加が入ると思いますので、最新の情報は公式サイトで確認してください。
触ってみた
本記事では以下の機能に着目し、実際に触ってみたいと思います。
AWS上でのシステム開発支援（Amazon Q For AWS Builder Use）
・チャット
・トラブルシューティングとサポート
業務支援（Amazon Q For Business Use）
・メタデータを使用したフィルタリング
・クイックプロンプト
※今後内容を追加していく予定です！！
まずは権限を付与する
Qを触る前に、まずは権限を付与する必要があります。
Qを操作するための権限は以下に案内されています。
IAMユーザに付与しておきましょう。
確かに、(^ q ^) みがありますねw
権限の許可ポリシーがついてないと、以下で触れるチャットもできません。
試しにDenyポリシーをIAMユーザに付与した上で、Qに質問をしてみたところ、You don't have permission to use Amazon Q.と言われました。
AWS上でのシステム開発支援（Amazon Q For AWS Builder Use）
チャット
マネコン画面上にQのチャット画面が追加されました。
AWS上でのアプリケーションの開発方法やサービスの使い方、トラブルシュートの方法、システム最適化の方法など、AWSの利用に関する質問を入力すると、Qが回答してくれます。
マネコン画面右端のQのアイコンをクリックすると、チャット画面が開きます。
開いたチャット画面で質問すると、回答が返ってきます。
回答が返ってくるまでは数秒の時間がかかりましたが、大きなストレスというほどではありませんでした。
FAQによると、このチャット機能は既にほとんどのリージョンで使えるようです。
この機能は米国東部 (バージニア北部) リージョンで実行されますが、任意の商用リージョンに設定されているコンソールからアクセスできます。
ただし、現時点では英語での質問のみ対応、、！
日本語対応が待たれます。
このチャット機能ですが、工夫次第で様々なことができそうです。
クラメソ様はチャットからサポートケースを起票されてました。
トラブルシューティングとサポート
まず、FAQによると、この機能は2023/12/1時点で米国西部 (オレゴン) リージョンでしか利用できません。
なので、検証は米国西部 (オレゴン) リージョンで行います。
プレビューでは、Amazon Q は、米国西部 (オレゴン) リージョンのコンソールのエラーのトラブルシューティングに役立ちます。
意図的にエラーを発生させるLambda関数を作成し、実行してみました。
コードはこちらのクラメソ様の記事を参考にしました。
Lambda関数を実行し想定通りエラーが出たら、画面上にTroubleshoot with Amazon Qというボタンが表示されます。
Troubleshoot with Amazon Qボタンを押下すると、以下のようにエラーとその原因分析の結果を表示してくれます。
さらにHelp me resolveボタンを押下すると、その解決策まで提案してくれました！
業務支援（Amazon Q For Business Use）
メタデータを使用したフィルタリング
いわゆるRAGを構築できます。
今回の検証は、S3バケットにドキュメントを配置し、それを読み込ませる形で進めていきます。
まずは読み込ませたいドキュメントをバージニア北部リージョンのS3バケットに格納。
日本語を含むExcelファイルで試したところ、Syncing（indexing）が半日経っても終わらないという事象が起こりました。
裏でKendraが動いてるっぽく見えたので日本語のファイルもいけるかなと思っていましたが、ダメそうです。
ドキュメントに基づくと、Amazon Q は現時点では英語ドキュメントのインデックス作成のみをサポートしています。 複数の言語での会話を理解できますが、英語以外のファイルのインデックス作成と変換の機能はまだ利用できません。 最高のユーザーエクスペリエンスを実現するには、インデックス作成と変換に Amazon Q で英語の言語ファイルを使用することをお勧めします。 将来のリリースでの追加言語のサポートに関する更新については、AWS ドキュメントまたは Amazon Q のリリースノートを確認してください。
バージニア北部リージョンでAmazon Qの画面へ移動し、ApplicationsメニューからCreate applicationボタンをクリックします。
Applicationの設定画面に遷移します。
Application nameとService role nameはあらかじめ値が入っていた。
とりあえずこのままの設定で作ってみる。
Createボタンを押下。
続いてRetriever（データの取得先となるIndex）を選択します。
ここではQ標準の "native retriever" を利用。
Kendraも指定できるらしい。
また、コストを抑えるためIndex provisioning > Number of unitsは初期値の2から1へ。
Nextボタンを押下すると、データソースの選択画面に移ります。
このコネクタ、Kendraでもみたことあるぞ、、
今回はS3を選択。
先ほどドキュメントを格納したS3にデータを取りに行けるよう、必要な設定を入れていきます。
この辺の操作感もKendraと一緒。
Add data sourceボタンを押下すると、アプリケーションとデータソースが作成されます。
続いてFinishボタンを押下。
Applicationの作成が完了しました。
先ほどSync run scheduleの項目でRun on demandを選んだので、Data sourcesから当該のデータソースを選択し、手動で同期をかけます。
Kendra同様、crawling→indexingと処理が走ります。
S3に置いたドキュメントの内容についてのみ回答を返して欲しいならこのままでよいのですが、一般的な生成AIによる回答も期待したい場合、RAGに関する設定を変更する必要があります。
左ペインのAdmin controls and guardrailsメニューから、Global controlsのEditボタンを押下。
Only produce responses from retrieval augmented generation (RAG)のチェックボックスを外し、設定を保存します。
これにより、一般的な生成AIによる回答と独自のドキュメントに関する内容の両方を回答してもらえるようになります。
それでは、Preview web experienceボタンからプレビュー画面を起動します。
この画面では日本語のやりとりができるww
気になること
RAG構築で利用するサービスの使い分け
AWS上でRAGを構築する手段はいくつかあり、 Bedrockを使う方法とQを使う方法に大きく分かれそうです。
その使い分けについては、みのるんさんがre:Invent中に確認されていました。
re:Invent前に流行っていた(?) Kendra + Bedrock の構成であれば、利用者側でアプリケーションを作り込む必要がありますが、Qではマネコン上の操作だけでRAG構築ができました。
構築にかけられる時間やカスタマイズの要件によって、選択が変わってきそうです。
コスト
様々な機能が利用できるQですが、「でもお高いでしょ？？」と思ってしまいます。
FAQによると、利用者１人あたり月額20ドル、オプションで5ドル追加すると、Amazon Q Builderを利用できるようです。
ただし、Qに何か他のAWSサービスの操作をさせた時は、当然そのサービスの利用料が発生します。
また、Qのページには追加料金に関する記載があったので、注意が必要です。
追加料金
*Amazon Q インデックスは、ビジネス知識をサポートするために、20,000 ドキュメント単位で 1 時間あたり 0.14 ドル (月額 100 ドル) の料金がかかります。1 つのユニットから始めて、必要に応じてストレージ ユニットを追加できます。各ストレージ ユニットには、月あたり 100 時間のコネクタの使用が含まれます。
「利用者１人あたり」という表現はちょっと曖昧なので、引き続き調べてみたいと思います。
※QのAPIを叩いたIAMの数？
Qの権限を持っているIAMの数？
アカウントに存在しているIAMの数？
終わりに
NRIネットコム佐々木さんがブログで『すべてはQになる」と書かれていますが、まさにその通りかと思います。
Qは今後AWSの様々なサービスと連携が進み、「Amazon Q in XXX」が増えていくのは明らかです。
今後も積極的にキャッチアップしていきたいと思います。
その他参考記事