はじめに
AWS Summitとは一年に一回幕張メッセで行われるAWSに関して学習し、ベストプラクティスの共有や情報交換ができる日本最大級のAWSイベントです。
人が多いと聞いていたのですが、思ったよりも多く
また色んな展示や講演がありお祭りのようでした。
当日の様子
会場には9時過ぎに到着、この時間帯はまだ空いてました。
開催前のブースの様子
DJが良い感じの音楽をかけておりまるで音楽フェスの様。
全体のフロア
生成AI多めでした。
無料サービスのご飯
AWS資格保持者が入れるラウンジ
シールは無くなることがあるので早めにゲット。
資格問題に出てくるsnowballとご対面コーナー
サイズにしては重いです。
実際のアイデアとAWSで実現してみようのコーナー
実現してほしいサービス
他にも１０弱パネルがあってとても興味深かったです。
セッションレポート
大規模言語モデルの プロンプトエンジニアリングのコツ
- はじめにClaude3のAPIフォーマット
// APIリクエストのJSONで"role":"user"と指定して質問する
{
"role":"user",
"content":なぜ空は青いのですが？"
}
- 人間に質問して明確さを確認する
- 自分のプロンプトを友人に見せて、求めている結果を相手が出せるか聞いてみる
- XMLタグの利用
- XMLタグを使うとClaudeはプロンプトの構造を理解しやすくなる
- 例示
- 少なくとも3-5個の例を含むことを目指す
- 例を増やすと精度が上がるのと同様に、悪意のある例を増やすと悪意のある回答が出力されやすくなる
- 出力形式の指定&Claudeの代弁
- 考える時間を与える
- 答える前に考えてもらい、考えも出力してもらう
- 役割のアサイン
- あなたは論理問題に答えるように設計されたマスター論理ボットです
- ハルシネーション（幻覚）への対処
- 「知らない」と言う許可を与える、自信があるときだけ答えるように言う
- 不適切なユーザー入力への対処
- プロンプトチェーン
- ステップ数の多いタスクでは、タスクを分割する
- 長い文章でのテクニック
- 後から質問すると伝え最後で質問する
感想
改めてプロンプトの作り方の勉強になった。
考えていることも出力してもらうことやプロンプトチェーン、タスクを分割する大切さを知れて良かった。
知らなかったプロンプトテクニックを日々の業務に活かそうと思いました。
Nintendo Switch 向けプッシュ通知システムのリプレイス事例
リプレイスの理由
- 柔軟に機能追加したい(OSSの改造から独自のアプリケーション開発に)
- 開発者の流動性を確保したい(他システムで採用実績のある「Go」で開発)
- 開発・運用の効率を高めたい(クラスタ構成をやめ、シンプルなアーキテクチャーに)
- 運用工数を削減したい(サーバーレスサービスを積極的に採用)
プッシュ通知構成の変更
既存
- 常時接続にはejabberdを利用し複数クラスタで構成
- AWSのサービスは実績のある安定したサービスEC2,RDSを使用
リプレイス後
- ELB,ECSonFargate,DynamoDBを採用
ログインについて
- ID払い出しサービス:プッシュ通知システムへの初回接続時にアクセスしIDの作成を実施
- 接続先振り分けサービス:接続する常時接続サービスのURLを取得
- 常時接続サービス:TCPコネクションを数時間以上維持。HTTP/2を利用した独自プロトコルで双方向通信
通知送信について
- 通知受付サービス:ネットワークサービス向けに通知送信用APIを提供 SQSに通知を保存
- 通知振り分けサービス:SQSから通知を受け取る。通知送信先のSwitchが接続している常時接続サービスのTaskに通知を送る
- 常時接続サービス:接続中のSwitchに通知を送信する
感想
1億台の常時接続のリプレイスというパワーワード
資格勉強で出てきたサーバーレスサービスがたくさん出てきて聞いていて面白かったです。
この後デプロイツールの負荷分散の話しがあったのですがそちらも興味深かったです。理解はできませんでしたが。
サービス無停止で無事リリース完了は流石です。
リニア中央新幹線における設備IoT化に向けて
保守用車のリアルタイム状態監視
- 保守用車とはリニアが走行するために必要な保守作業を行う車が
- 保守用車のユーザー、指令、保守担当者とのやりとりは電話だったが正確に状況を把握するのが大変で時間もかかる
- 設備状態を遠隔で正確に把握して早期復旧を実現したい
使用したサービス
- AWS IoT SiteWise:保守用車からリアルタイムにデータを取得する
- Grafana:OSSの可視化ツール
- S3:取得した大量のデータを蓄積する
開閉器動作音による異常検知
- 開閉器とは電気の入・切をするスイッチ
- 独自開発した異常検知手法をクラウドへ実装
- マイクの音声をS3に保存、1日分のデータをEventBridgeとLambdaからSageMakerが呼び出される
感想
そもそもリニアは、遠隔制御するためにデータドリブン運営が必要であるという前提があり
システムを設計して内製化していく様で楽しみである。
まとめ
初めての参加でしたがあらゆるところで常に講義が行われており、
システム構成図を見るだけでも楽しかったです。
色んなグッズもいただきました。
ありがとうございます。
来年も参加したいと思います！