記事を読んでいただきありがとうございます!
モブエンジニア(@mob-engineer)です!
12/05(木)に参加した「re:Invent 2024 Daily re:Cap #3 with AWS Heroes」へ参加したので、参加レポートとしてアウトプット記事を執筆しました。
お昼休みのスキマ時間にサラッと読んでいただければ幸いです!
極力平易な表現+正しい情報を執筆することを心がけておりますが、
筆者の認識相違なので間違いなどがあればコメントなどをいただけますと幸いです。
12/03(火)・12/04(水)のイベントレポートはこちら
イベント概要
内容
・re:Invent 会期中にリリースされるサービスやキーノートの内容、そして会場内で行われていることなど、幅広くおさらい。
・各AWS Heroの観点や感想など交えて話する様子をオンライン配信します。
・全AWS Heroの参加ではなく、参加できるAWS Heroだけになります。
目的
・re:Invent 開催中にどのようなサービスがリリースされたのか参加者に知ってもらう
・AWS Heroesがそれぞれ持っている視点でそのサービスがリリースされた背景や活用シーンなどを伝える
・伝えることで自分たちの学習(持ち帰れる情報を増やす)につなげる
・AWS re:Invent 現地参加者しか手に入れられない情報や体験できないこと(雰囲気など)を伝える
内容
Swami博士のキーノート
- AI台頭に伴うコンピュートリソースの重要性を示していた
- SageMaker HyperPodに関する示唆(去年リリース)
- 機械学習向けのPod運用をマネージドに管理するサービス
- Task governanceといったサポートサービスも出ている
- 使い道として、生成AIでアウトプットした内容のチューニング(ex:テレビの放送禁止用語のトリミング処理)
- クリーンな学習モデル(=不純な情報を学習していない)を利用するのであれば吉
- 既存モデル利用 or 新規モデル開発の勘所を考える
- StartとEnd画像を入れるだけで5~6秒の画像が生成できる
- フラッシュ動画のようなイメージ
- うまく使いこなせばショート動画を生成できる
- Bedrockルーティング機能が提供されることでモデル選定の手間は省ける
- モデルごとに課金体系が異なるため、見積もりは難しくなる
- 非構造データのテキスト化について
- AWSがAI界隈でどんどん成長している印象を持っている
- 私たち事業者は巨人の方に乗っていくのではないか?
- AWS Educationへの投資
- AI人材育成に向けた進め方
- 優秀な学生の青田買いの狙いも...
- 学生がクラウドに身近に触れ合える視点で良き取り組み
Bedrock関連
- 新しいBedrockモデル(What new未対応)
- poolsideとLimaAIが新しく登場する
- StabilityAiに関しても新しいバージョンが出てくる
- Bedrockマーケットの登場
- サードバーティ製のモデルをBedrockでデプロイできる
- 使用可能だが、時間課金はどうしてもかかってしまう
- プロンプトキャッシュ機能に対応
- 毎回利用さえるプロンプトをキャッシュできるようになる
- プロンプト生成のコスト削減+時間短縮につながる
- プロンプトルーティング対応
- プロンプトの複雑さによって自動的にルーティングさせてくれる
- 英語推奨
- Bedrockデータオートメーション(DBP)がリリース
- 非構造データ(画像など)をテキストデータに変換する
- マルチモーダルのデータ取り込みをマネージドにやってくれる(高くなるかも)
- 構造化データのデータ取得を行うことができる
- ベクトル検索でなくSQL検索で対応してくれる
- 勝手に検索用のSQLコマンドを生成してくれる
- ナレッジベースにGraphRAGが対応
- テキストベースのデータをグラフ変換してくれる
- 検索精度が向上する
- Amazon KendraにGenAIインデックスが登場
- GenAIが利用可能にある
- 料金表を見るとお安くなった(3000円くらい?)
- ガードレールでマルチモーダル毒性検出に対応
- ユーザが投入した画像に毒性(ポルノなど)が含まれていたら拒否する機能
- みのるんさん的にはKendraアップデートが一番面白かった
質問
- Amazon Q Business(旧バージョン)の利用用途は
- 社内チャットボットなどのビジネス向けに利用できるのでは
- 情シス担当に業務が移管されるイメージ
- Bedrockは対ユーザ向けに利用できる
まとめ
イベント内でもお話がありましたが、生成AI関連のアップデートが多いとおっしゃっていたので、AWSとしても、今後投資を進めていきたい領域なのかなぁと思いました。
また、Bedrock関連は怒涛のアップデート祭りでしたので、これからキャッチアップするのが大変そうですが、技術検証しながら楽しんでやっていきたいなぁと思います。
参考サイト
【DAY4】最速更新!AWS re:Invent 2024 Swami & Ruba Keynoteのアップデート速報 #しむそく
12/4(水)のBedrockアプデ速報(re:Invent 2024 Daily re:Cap #3 with AWS Heroes)
SageMaker系
Task governance is now generally available for Amazon SageMaker HyperPod
Announcing Amazon SageMaker HyperPod recipes
Bedrock系
Amazon Bedrock Marketplace brings over 100 models to Amazon Bedrock
Amazon Bedrock announces preview of prompt caching
Amazon Bedrock Intelligent Prompt Routing is now available in preview
Amazon Bedrock Data Automation now available in preview
Amazon Bedrock Knowledge Bases now supports structured data retrieval
Amazon Bedrock Knowledge Bases now supports GraphRAG (preview)
Announcing GenAI Index in Amazon Kendra
Amazon Bedrock Guardrails supports multimodal toxicity detection for image content (Preview)
Poolside公式
Luma AI公式
その他(AWS Education)
AWS Education Equity Initiative to boost education for underserved learners
最後まで記事を読んでいただきありがとうございます!