はじめに
こんにちは、H×Hのセンリツ大好きエンジニアです。（同担OKです😉）
2024年6月20日(木)、21日(金)に開催されるAWS Summit Japanの1日目を参加してきました！
基調講演からブースなど色々な所を周ったので、体験談として書いています。
参加したセッション
AWSome Day ～踏み出そう、AWS への最初の一歩～ AWS クラウドの基礎を 3.5 時間で学ぶ
お昼が取りたかったので、1部（AWSの概要とクラウドコンピューティング）と2部（ストレージ、データベース、ネットワーク）まで聞いたことまでをメモ。
内容
クラウドとは、インフラストラクチャを物理的なハードウェアではなく、ソフトウェアとして使用できるものである。
オンプレ環境を自社で維持する場合と比較して、アジリティ、拡張性、コスト削減、グローバルにデプロイといったことがメリットとして挙げられている。
AWSは、Amazonが提供するクラウドサービスであり、様々なイノベーションに利用されている。
例を挙げると、IoT(AWS IoT)や機械学習(Amazon SageMaker)、ブロックチェーン（Amazon Managed Blockchain）など。
AWSには200以上のサービスが存在しており、一例としてEC2がある。
EC2は仮想サーバサービスであり、従来のような物理サーバの構築や環境構築作業をすることなく、クラウド上に仮想サーバを用意することができるサービスである。
メリットとしてはサーバの構築や運用時間の削減やスペックの変更が容易である点などが挙げられる。
ストレージサービスとは、クラウド上でデータを保管できるバケツのようなものであり、ファイルの共有が容易な点や費用を抑えられる点がメリットとして挙げられる。
ストレージの種類には、以下の3種類が存在している。
- オブジェクトストレージ
- データをオブジェクト単位で管理するストレージ
- 機械学習などに使用する大規模データを安く保存することや、データにアクセスする際の利便性が高いことが特徴
- 代表サービスはAWS EBS
- ファイルストレージ
- データをファイル単位で保存するストレージ
- ディレクトリ形式で階層的に整理されてるため、直感的に利用できることが特徴
- 代表サービスはAWS EFS
- ブロックストレージ
- データをブロック単位で保存するストレージ
- 各ブロックに固有の番号が付与されており高速な読み書きが可能な点や、高速なアクセスが特徴
- 代表サービスはAmazon S3
AWSには、多種多様なユースケースで扱えるデータベースサービスが存在しており、ユースケースによってデータベースを選択する必要がある。（万能なデータベースは存在しない）
リレーショナルデータベースを使用したい場合でも、ユースケースによってAmazon RDSかAmazon Aurora、Amazon Redshiftといったデータベースから選択する必要がある。
最後に、AWSではVPCというプライベート仮想ネットワーク空間を提供している。
これは、AWSアカウント内に専用のネットワークを作成する機能であり、オンプレで扱う必要があるDNSやNTP、ルータなどといった機能は全て提供されている。
実際にVPC内でEC2などのサービスを設置する場合は、サブネットと呼ばれるネットワークを作成する必要がある。サブネットにはパブリックとプライベートがある。
所感
AWSの基本について改めて確認することができたので、始まりとしてはとても取っ掛りやすかったです。
ただ、AWSの活用事例や構成をメインで知りたかったこともあり、少し物足りなさはありました。
ほとんど知っている内容であったこともあり、隣の会場でやっていたドメイン駆動開発に少し目移りしてしまいました。。。
AWS コスト管理の最前線
内容
AWSのコスト管理には、可視化、最適化、計画・予測のフェーズが存在する。
この3つのフェーズを回しながらクラウドコストを最適化することを「FinOps」と呼んでいる。
可視化フェーズ
AWS Cost Explorerを用いてコスト確認を行う。
具体的には、AWS Cost Explorerを使うことにより、コストが増えたインスタンスのタイプと時間を絞り込む。
次にタグを用いることで、どの開発チームのリソースコストが増加したのか絞り込み、タグが無いものに関してはAWS Resource Explorerで検索を行い、AWS Tag editorを用いてタグの付与を行う。（※タグの付与はPayerでのみ可能）
最適化フェーズ
クイックウィン最適化（すぐに実行できる最適化）から行う。
例えば、検証環境の開発インスタンスを休日・夜間に停止させることなど。
次に、Cost Optimization Hubで低稼働率のインスタンスの停止や、インスタンスタイプを安いものへグレードダウンするといった選択肢から最適な施策を実行する。
最後に、Savings Plansなどのコミットメントの購入による最適化効果をCost Optimization Hubで確認する。
計画・予測フェーズ
すぐにアラートが出るように設定した予算を超えると通知される予算アラートを設定する。また、利用料金が通常と逸脱していた場合に通知される異常検知アラートの設定も行う。
AWS Budgetsを使うことで予算の決定と予算アラートの作成、利用料金の推移が計画と異なる場合に検知できるように監視する。
所感
今まで何となくAWSを利用していましたが、やはりお金が掛かるシビアな世界なのでコスト削減はしっかりと行わないといけないことをヒシヒシと感じました。
具体的なコスト削減の方法がサービスと共に紹介されていたので、初学者の自分にも理解しやすかったです。
特に、最適化の面が気になりました。
低稼働率のインスタンスを停止するか、グレードダウンさせるか選択する際の判断基準を事例と共に知れたらもっと自分のユースケースに適用しやすいのかなと思いました。
キンドリル AWS Innovation Factory ご紹介！生成 AI アプリの高速開発と本格運用
内容
AWSとキンドリルが新たに設立したInnovation Factoryでは、顧客のユースケースに特化した
エンタプライズグレードのソリューションやサービスに変換することを目的としている。
成果事例としては、IoTデバイスで収集する情報を活用して過酷な作業現場における健康被害のリスクを軽減する仕組みの実装が挙げられていた。
Innovation Factoryの柱としては下記の5つ
- 業界別ソリューション
- 金融、製造など業界別のソリューションを開発
- 水平重点エリア
- 生成AIやデータモダナイゼーションなど業界を問わないソリューションの開発
- 専門技術とスキルの蓄積
- 多分野にまたがるスキルの取得と蓄積
- お客様共創プロジェクトセンター
- あらかじめ構築された複製可能な資産とアクセラレータを活用した顧客とのユースケースの確立
- 将来への持続性
- 新しいテクノロジーやツールにおける将来的なソリューションの持続性を持たせる
また、生成AIに使用するLLMの運用では、パフォーマンスモニタリング、エラー検出とデバッグ、使用状況の分析、モデルドリフトの検出、スケーリングとリソース最適化、コンプライアンスとガバナンスを考慮する必要がある。
これらは、意思決定の改善と可視性の向上、問題の早期検出、パフォーマンスの向上につながるためどれも重要なファクターである。
キンドリルにおけるLLMOpsプラットフォームでは、この問題に対して「プロンプト管理」「オブザーバビリティ」「オーケストレーション」「FinOps」「セキュリティとプライバシー」といった機能を提供している。
また、LLMサービスの性能を担保するためにファインチューニングモデルやプロンプト、テストプロンプトとその評価の管理を行っていることも述べられていた。
所感
生成AIのセッションが多かったのですが、実際に開発・運用を行うにはどうすれば良いかを知りたかったので視聴しました。結論としては、生成AIに使用するLLMの運用に大切な事項を知れたのでよかったです。
運用する際にファインチューニングモデルの最適化やプロンプトエンジニアリング、テストプロンプトやテストの入出力をどう評価するといった様々な要因がある中で、時間があればファインチューニングモデルについて具体的にどう管理しているのか気になりました。
都度顧客に合った価値の創出を行うためにパフォーマンスチューニングをすると思うのですが、その中身が知りたい。。。
おわりに
1日目は結構ブースの方を回っていたためあまりセッションを聞けませんでしたが、気になっていたコスト管理や生成AIの開発・運用を知れたので個人的には勉強になりました！
2日目は特にOpenSearchのベクトル機能による検索の改善が気になっているので、そちらもQiitaにまとめたいと思います！
最後までご覧いただきありがとうございました！
以上、センリツでした。🤓