初めに
サーバーレスのカンファレンスイベントに参加しましたので、各セクションの感想・要約を本記事に書いています。
ADK と Cloud Run で作る AI エージェント
AIエージェントは自律型のAIプログラム。
AIエージェントの頭(自律型のプログラム)Geminiなど生成AIでインターフェースはAPIや検索、データベースになる。
AIエージェントは、カスタマーサポート、開発アシスタント、データアナリクス、旅行プランナーなどで役立っている
Geminiではインターフェースとして、Toolsというパラメータがある。
パラメータは、計算内容や読み込むスコープを絞り込む機能などがある
AIエージェントを構築するためのADKというものがある
MCPは外部ツールに接続するためのもの
MPCはベンダーロックインの防止やエコシステムの利用、エンタープライズの効率化で有用である。
A2Aはエージェント同士がやり取りするための規格
A2Pはエージェントが決済をするための規格
利用用としては、値段が変わったときに決済をAIにお願いするといったものがある
GCPではAIエージェントを、マネージメントサービスやセルフマネージメントサービスで構築できる
Cloud RunにAIエージェントをデプロイすると、使った分による課金ができる
DockerfileでAIエージェント、ADKでMCPを動かせる。
エージェントのステート管理をGCPのマネージメントサービスで管理できる。
エージェントに対するとオブザーバビリティもGCPは対応している
GeminiCLIはさまざまなコマンドを組み合わせる機能がある
GeminiCLIはサンドボックス環境で実行できる
AIエージェントがアプリケーション開発の未来を変える
技術が抽象化されてると、多くの新規開発者が来た
AIにより開発障壁が下がり、多くの人々か開発に参加する可能性がある。
AIにより新しい開発者として、事業者やマネージャーとなる。
しかし既存開発者は職が失われるわけではない。
新しい開発手法はAIを主軸としたものになる。
AIがデータやAPIを活用する。
最近はAIがコードを人間がRvすることがボトルネックである
コーディング-リリースまで、AIがサポートをするべき
Postman FlowsはAIエージェントのワークフローをローコードで実装できる
処理のブロックをカプセル化した物を組み合わせることができる
カプセル化した処理はスナップショットにより、バージョン管理が可能
スナップショットにはコメントを残すことができる。
PostmanFlowsは、Postman上でデプロイや監視を実行できる
「AIに秘密を漏らさない！」RAG時代のアクセス制御：ReBACで実現するデータ保護
ビジネスに生成AIを利用するためには、モデルだけでは不十分であるため、様々なAPIやツールを呼び出す必要がある。
AIアプリケーションのセキュリティ課題は毎年更新されている
RAGのセキュリティリスクは、検索した情報が見ていいものかといったものがある
対策として、適正な検索フィルタリングをかける。
それによって不必要な情報をAIが検索しなくなる。
ロールペースのアクセス制御を行う
ReBACによるアクセス制御は、リレーションシップ(関係性)を重要視している
具体的にはアクセスするオブジェクトやアクションとユーザーは十分な関係性があるかを調べる
まるでRDBで情報や制御を管理していると感じた
（ほぼ）フルサーバレスで挑む！ メガバンクの業務を支えていくRAGアーキテクチャ
銀行の紹介業務で必要な情報紹介をRAG化した。
情報紹介はヘルプデスクが検索してポート化したものを担当者に提供していた。
しかし多くの行員を5人のヘルプデスクで担当するのは負担が大きくかかっていた。
ヘルプデスクをセルフサービで情報照会するRAGをAWSとAzureで構築した。
ヘルプデスクの担当者はRAGのデータレイクをメンテナンスしている。
検索機能、資料管理、チャット、データレイクはAWSで構築。
OCRとAI検索はAzureで構築した。
CloudFormationは400のテンプレートが存在している
【構成図】https://x.com/abumai09/status/1969292770234736759?s=19
ECSを使っている理由はGUPを使いたいから。
しかしボトルロケットを使って、脆弱性をカバーしている
議事録の要点整理を自動化！サーバレスBot構築術
コード
会議の課題
- 議事録運用
- タスク管理
- 会議進行
人に依存仕組みだと改善しても普及しない
Geminiの議事録作成機能はMeetで作成してくれる
やりGeminiの議事録作成機能を活用したい。
- 会議で決まった内容の自動タスク化
- 議事録の一元管理
アーキテクチャ検討
- 素早くプロト開発
- 効果がなければすぐに開発中止できるか
- 機能開発に集中したい
そのためサーバーレスアーキテクチャを採用した
議事録とタスクをNotionに保存した