はじめに
かなり時間が経ってしまいましたが、2024/8/1～2にパシフィコ横浜にて開催された、Google Cloud Next Tokyo'24についての振り返りです。
特に個人的に記憶に残った内容を記載します。
Cloud Run で構築する 生成 AI アプリと RAG の実践
アプリ開発者が生成AIアプリやRAG ワークフローを構築するのに役立つ Cloud Runの使い方が紹介されていました。
Cloud Run の有用性
・コンテナをデプロイするだけで外部から到達可能なURLが発行される
→インフラ知識のないエンジニアでも、生成AI アプリを容易に公開が可能
・O~Nヘトラフィックに応じて高速にスケーリング
→呼び出される頻度が低い、高いに限らず、コスト最適化な運用が可能
・イベント駆動で処理を実行
→イベント駆動のデータ取り込みが可能
(Cloud Storage にファイルが置かれたら起動、など)
・高度なトラフィック管理が統合
→新しいモデルやプロンプトの検証、ロールバックが容易
上記の様なCloud Runの特徴から、生成AI開発に有用であることが紹介されていました。
その他、生成 AI アプリの開発について、
・従来アプリ開発のループに生成AIの機能を追加する考えで始めると良い
・データ分析や質の高い回答生成のために RAG を活用
・ユーザーフィードバックを収集し、評価と改善を繰り返す
・一連のフィードバックループを含めたアプリ開発をすることで、
ユーザーのニーズの変化や新しい技術に対応できるようになる
といった考え方で進めるよいとの事でした。
Google Cloud のインフラ ストラクチャ構成のベスト プラクティス
多くの話題がありましたが、特に便利と思ったものを記載します。
・ハイブリッドNAT
オンプレミスのアドレスがVPCサブネットのアドレスと重複してしまう場合
ハイブリットNAT機能により、アドレス範囲が重複していても通信できる
・ハイブリッドサブネット
オンプレミスのネットワークとVPCネットワークで同じサブネット帯域を
利用したい場合、ハイブリッドサブネットにより実現できる
・Private Service Connect
オンプレミスからGoogleCloudサービス内のVM等に接続する際に、
プライベートアドレスの重複を許容でき、接続することができる
また、ロードバランサーの選択のベストプラクティスとして、
• 外部ロードバランサ
レイヤ７
・グローバルを最初に検討
・理由がある場合はリージョンを検討
レイヤ4
・グローバルかつTCPならプロキシを検討
・リージョンまたはUDPならパススルーを検討
• 内部ロードバランサ
レイヤ7:クロスリージョンを最初に検討
レイヤ4:(外部と同じ)
といった内容が紹介されていました。
GKEの事例紹介
GKEとCloud Service Mesh(CSM)、AlloyDBを使った事例が紹介されていました。
GKEにCloud Service Mesh(CSM)を組み合わせることで、
・AutopilotモードでのNode管理自動化
・セキュリティ設定がデフォルトで有効化
を実現されているとのことでした。
Cloud Service Mesh（CSM）は、監視可能で安全な
マイクロサービス間通信を実現するアーキテクチャで、
・トラフィックコントロール
・ロードバランス
・オブザーバビリティ（監視）
・セキュリティ（暗号化通信）
を行うことができるとのことでした。
AlloyDBは、
・System Metrics、QueryInsightsが使える
・高可用性とスケーラビリティ
・ゼロダウンタイムでのスペック変更
・CloudSQLと比べて設定が簡単
とのことで採用されたとのことでした。
Kubernetesを商用で実現する構成として参考になると思いました。
その他
会場では「クイズチャレンジ」がありました。PCでクイズ（試験問題）に答え、70点以上得点できると、景品がもらえます。AI、DevOpなど６種類のジャンルがあり、すべてクリアすると、おまけでもう一つ（下の写真の真ん中）がもらえました。
最後に
最近注目されているコンテナ技術やAI技術は、Googleを起点としているものが結構多いと感じます。
今後コンテナ技術やAI技術のさらなる進展があることが予想される時代、益々Googleの動きに注目すべきと思いました。
（今回初めての投稿となりますため、多少不備などがあるかもしれません。このところご容赦ください）