はじめに
この記事はAWS Summit 2023 4/21(金)に、私自身が参加したセッションのメモです。
仲間と情報をシェアする一環で記事にしました。
具体的なアーキテクチャは写真撮影はOKでしたが、どこまで載せて良いかわからなかったので、社内でもし興味ある方はお声がけください、共有します!
オンデマンドでの配信もあるみたいです!
https://aws.amazon.com/jp/summits/tokyo/
全体の感想としては、様々な業種でのAWS活用や、アーキテクチャの説明を聞けて、非常に有意義な時間でした。
来年もまた参加したいです!
目次
- AWS-30 / 機械学習の技術的負債をSageMaker Studioで解消
- CUC-31 / データ利活用を加速する!三菱UFJ銀行DSチームが築き上げた文化と内製開発基盤
- CUC-44 / AWSを活用した「ANA アプリ」で、お客様の快適な飛行機の旅をサポート
- CUC-39 / ソニーが創るクリエイターの未来〜映像制作領域におけるクラウド上でのAI活用〜
- CUC-52 / 短期間で90カ国以上の展開に成功した企業が語る「AWS MarketPlace活用」
1.機械学習の技術負債とSageMaker Studioの活用
概要
企業の50%以上が機械学習を活用した経営を実施している。
しかし、開発を実施するにあたり、スピードと性能のトレードオフなど、企業は多くの技術的負債を抱えることが多い。
機械学習も例外ではなく、コード以外にも、データ収集・検証・監視など、様々な周辺システムが必要になる。
それら技術的負債をいかに取り払い、スピードと性能を両立させるかが課題である。
(例)ハードウェア・ライブラリの準備などに時間がかかる、スピードを優先した対応をとると、どうしても前処理が雑になりデータの質が落ちたり、プロセスの記録の正確性が下がったりする。
対応策
AWS SageMakerシリーズを活用することで、必要な周辺環境を効率的にデプロイすることができる。
それにより、機械学習導入・実施のプロセスの迅速化・高性能化を実現し、技術的負債を解消する。
準備 → ビルド → トレーニング → 実施 → 記録
- SageMaker Studio
- 必要な機能(S3、EC2など)をまとめて管理できるツール
- ブラウザ上で無料で使える
- SageMaker Data Wrangler
- データの前処理を実施してくれるツール
- データセットの傾向や並び替え、欠損値埋め、データ統合などが実施可能
- SageMaker Autopilot
- 数クリックで数百のモデルをトレーニングし、最適な機械学習モデルのリストを表示してくれるツール
- ハイパーパラメータのチューニングや、特徴量エンジニアリングなどを自動で処理して検証してくれる
- SageMaker JumpStart
- 350以上のモデルをすぐにデプロイできるプリセット環境を提供してくれる
- 迅速かつ効率的に高品質のモデルを構築することができる
- SageMaker Notebook
- SageMaker Studioと統合されたAWSが提供するマネージド型のJupyter Notebook環境
- 他のシリーズで前処理などしたS3に保存されているデータを簡単に読み込め、TensorFlow様々なフレームワークを使用できる
- SageMaker StudioLab
- 機械学習の開発・デプロイ用のフルマネージドなクラウド環境
- フレームワークやJupyterLab環境など、機械学習ワークロード全体を手軽に利用できる
2.三菱UFJ・DSチームのデータ活用基盤
概要
DSチームを社内で発足するにあたり、分析サイクルを素早く確実に実施する環境を整えることが重要である。
組織作りの項目を適切に実施することで、効率的な運用を実現し、その結果下記項目を達成した。
- On Bording: 2週間 → 1日
- PoCから本番へ: 3ヶ月 → 1ヶ月
- 改善リリース: 2週間 → 1日
- OSS貢献者: 0% → 40%
組織づくり
設定したゴールや方針に基づき、AQUAM(Automation and Quick Utilization of AI&ML)という基盤アーキテクチャを構築。
メンバーの40%が自らアーキテクチャにcommitできるようにすることで、チームとして迅速にデバッグなどを行うことができる体制を実現。
- 組織基盤構築の方針
- Direct(実務に近い)
- Agile
- Trancefer
- Awesome
- 実現したアーキテクチャ
- 3層account構成で、顧客情報の保全と迅速活用を両立
- Dev Account
- SageMaker Studio(Notebook)、SageMaker Pipelines(Model・Train)、ECR、S3
- Secured Account
- SageMaker Pipelines(Lambda・Model・Train)
- Production Account
- SageMaker Pipelines(Lambda・Model)、Lambda、S3、
- Data Account(3層には含まれていないデータの取得元)
- Redshift、S3、API Gateway
- Dev Account
- AWSマネージド
- 最新ライブラリ取得速度の向上によるPoC効率化
- GitHubやHuggingFaceなどから、CodeBuildにcloneし、CodeCommitへpush
- 資材作成をチームで実現 → リリース高速化
- イメージを作成し、それをベースに全てAWS上で処理を行う
- 最新ライブラリ取得速度の向上によるPoC効率化
- API疎結合
- アプリレベルでの責任分解 → リリース高速化
- 3層account構成で、顧客情報の保全と迅速活用を両立
3.AWSを活用した「ANA アプリ」
概要
旅行プランの計画から、搭乗、機内、到着後など、空の旅における多様なイベントをまとめて実施できるANAアプリを開発するにあたり、様々なリサーチや新しい開発スタイルを用いて、システムを構築した。
取り組み
- Discovery & Framing
- General Reserch
- ユーザーのペルソナと需要を細かく設定しUXを調査
- Evaluative Research
- この機能が本当に必要かどうかなどを検討
- Usability Research
- 実際に使ってみて改善できる点はないか
- General Reserch
- Agile開発
- 「速く開発する」ではなく、機能の優先順位付けから、機能別のリリースまでのプロセスを循環させていくことをアジャイルと定義して開発
- AWSがスピーディーな開発環境の礎になる
- AWSの活用
- 導入コストの抑制
- 運用コストの削減と高いシステム可用性
- 容易なログ確認
- 教育コストの抑制
- API Gateway、Lambda、CloudWatch、SNS、S3
4.ソニーが創るクリエイターの未来
概要
コンテンツが大量に消費される時代になり、クリエイター側はコンテンツ制作の効率化が必要になった。
そこで、ソニーマーケティング株式会社の強みである、音声や映像に関するAI技術や、メタデータを活用したクラウドベースのコンテンツ制作プラットフォーム、CREATOR'S CLOUDを構築した。
Creator's Cloud の主な特徴
- アプリやカメラを通じて映像を簡単に直接クラウドへ伝送
- ライブ制作とファイル制作のオペレーションをつなぐ、総合的ワークフロー
- AI/メタデータを活用した制作効率化や、新たな映像表現の実現
- リモート操作・同時作業による生産性の向上
- 多様なコンテンツの同時制作とマルチフォーマット配信
- パートナー企業との連携を推進
Creator's Cloud のソリューション
- M2 Live クラウド中継システム
- Callsign スマホインカムサービス
- C3 Portal クラウドカメラポータル
- Ci Media Cloud クラウドメディアストレージ
- いろんな場所の人が、セキュアに素材を共有・編集できる
- NavigatorX Cloud ワークフローソリューション
- A2 Production AI 映像サービス
- CloudFormationと設定ファイルで、素早く環境を構築
- AIエンジンを乗せたコンテナ更新で、容易に機能を追加
- AWS Batch + Fargate・ECS
- 専用環境のスケーリングなどはAWSを活用し、急激な流量変化に対応
ソニーの強み
- 映像
- 人の姿勢を推定する技術
- 人体の動きのトラッキング技術
- 4Kの映像から、リアルタイムに一般物体を検知
- 煙などの、形状不定の物体
- 文字認識
- 音声
- 音声認識とテキスト化
- 様々な音の中から、特定音の検出
- 音源分離
- ノイズ除去
アーキテクチャと突き当たった困難
- タイムライン自動同期サービス「LineSync」
- EC2 Auto Scaling
- Windowsでしか動かないプログラムがある
- ALB、EC2、SQS、Batch、ECS on Fargate、ECR、EC2
- EC2 Auto Scaling
- ファイルシステム連携 - ファイル処理
- AWS Batch + Amazon ECS on Amazon EC2
- GPUが使えない
- API Gateway、S3、SQS、Lambda、Batch + ECS on EC2、ECR
- AWS Batch + Amazon ECS on Amazon EC2
- 音声認識AI
- Amazon ECS on EC2 + Warm Pool
- 起動時間が遅い
- ALB、CES on EC2、ECR
- Amazon ECS on EC2 + Warm Pool
5.AWS MarketPlaceを活用したグローバル展開
概要
自社製品の展開方法として、Amazon MarketPlaceに注目し、試行錯誤を繰り返しながら90カ国以上で利用されるサービスにしたメソッドを紹介いただいた。
ユーザー数
- Asia(1716)
- うち日本(1716)
- Africa(14)
- Europe(392)
- North America(745)
- Oceania(110)
- South America(229)
グローバル挑戦時の課題
海外で通用するサービス開発力や、DLを活用したセキュリティ技術力などはあったが、、
- 営業人材が5名で、主要事業の対応で手一杯
- 海外ビジネス経験メンバーがいない
展開プロセス
- MarketPlaceの仕様を正確に把握する
- 契約形態を定める「contract」モデル
- 従量課金型の「Pay as you go」モデル
- ユーザーとの商談に合わせた、個別discountなどの設定ができるPrivate Offer
- このあたりの設定が複雑
- ユーザーからの売上回収はAWSが行うので、回収作業は不要だが、直接催促ができない
- ユーザーによっては回収に数ヶ月かかることもある
- 経理とパターン別に認識合わせをしておく必要がある
- AWS担当者の方との密なコミュニケーション
- 連携するAWSサービスの仕様や制約の適切な理解
- 掲載までの製品レビューのステップ
- 認知拡大活動の実施
- AWSの巨大ユーザーコミュニティ(JAWS-UG)に登壇
- AWSイベント(AWS re:Invest / AWS re:Inforce)に積極的に参加
- CPPOという再販できるパートナーの活用
- AWSに相談することで、パートナーを紹介してもらう
- 日本(15社)、アメリカ(1100社)