はじめに
2023/12/11-12/12の2daysでCloudNative Days Tokyo 2023が開催されており、そちらを視聴したので簡単に所感をまとめてみました。
なお、筆者はインフラエンジニアであるもののCloudNative系にはほぼ触れたことがなく、今後はk8sとか勉強したいな、どういう話をされるのだろうかと思い参加しました。
結論、クラウドネイティブ技術の基礎から先端まで色々な話を聞くことができ、大変刺激になりました。
所感
いくつかのセッションを参加させていただきましたが、開発プロセスとか手法をCloudNativeとどう絡めているか、っていうのが多い印象でした。あとはAI関連などのセッションもあり今までGPTを簡単に使うくらいしかしていなかったのですが、AIについても関心が高まりました。
今後k8sやTerraformなど触っていけたらなと思っていましたが、モチベーションアップになりました。
また、セッションを通して強く思ったのが数年前はこれからはクラウド化だー!AWSやAzureの便利サービスについて紹介!などが多かった印象ですが、そういった時期から時間が経過し現在はクラウド採用もどの企業も標準になってきている/なりつつある印象です。
クラウド活用が大前提になっていて次はAI+CloudNativeな開発・運用やクラウド運用の中でのセキュリティ対策というのが流れになっているのだなと感じました。
こういうIT業界の流れやトピック/キーワードなどは常々アンテナを高くする必要があると改めて再認識させられました。
Day1
Day1はオフライン参加しました。
午前から夕方まで9つのセッションに参加させていただきました。
いくつかピックアップして気になったものを備忘録がてらメモと所感を記載します。
セッション:k8sで実現する最先端AIプラットフォームへの挑戦
CALM(日本語LLM)開発着手しているとのこと。
OpenAI社が開発した「ChatGPT」やGoogleが開発した「Bard」はもちろん英語で学習させられています。
現状、日本語強いLLMは少ない状況のため、CyberAgentといった大企業が日本語LLMの開発しているのは素晴らしいことだと感じました。
引用
また開発に当たりGPUが必要で従来はNVIDIA A100を利用していたが、パラメータ規模によっては全然足りないらしく最新のH100を80台導入し、AI開発環境の大幅強化をされたとのことです。(調べたところ、H100の導入は国内初とのこと...!!)
またGPUリソースを最適化させるためにNVIDIA H100向けGPUクラスタ(GPUaaS)のネットワーク構築と、分散学習ジョブ実行のための「Distributed」を開発されたとのこと。
今後AIを利用して業務を推進することが爆発的に増えてくると予想ができますし、CyberAgentから日本語LLMを活用したサービスのリリースが大変楽しみだと感じました。
セッション:2023年の脆弱性を総括!主要脆弱性とその打開策
生成AIの普及とリスクの顕在化についてでした。
現在、システム開発でのAI活用は大小含めると50%超とのことです。さらに数字は増えていくことが予想できます。
一方でAIに対する過度な信頼など、利用にはリスクはあるとのこと。
例.Chat-GPTでコード作成すると脆弱性あるコードを回答として出てくるなどあるとのこと。
やはり開発に利用する場合は検証必須でしょうし、開発に関わらず、業務におけるAIからの回答への過度な信頼はまだまだリスクがあるのだと感じました。
ハルシネーションと呼ばれる「ChatGPTは、さも本当のことを言っているかのように間違える」ということもよく耳にしますし、回答の真偽については現時点では自身で判断する必要があるのは間違いないですね。
(近い未来、より精度が高くなることを切に願っていますwww)
またゼロデイ攻撃についても言及がありました。
やはり日々脆弱性は発見されるのが実情
例.OSSであるWebPの脆弱性
とはいえ、リスクはあるがOSSの利用は避けれらないのが現実。
そういった中で「次世代の脆弱性管理ツール Snyk (スニーク)」の紹介がされていました。
※スライドがなかったのでHPから引用させていただきました。
セッション:noteのEKS移設、ゼンブ見せます
大変ありがたいことにSpeakerDeckに資料が公開されていました!
オフライン参加だと画面ショットとか取れないのが悩みなのでうれしいポイントでした。
noteは2023年9月に本番稼働するすべてのアプリケーションをk8sに移行したとのことです。
元々AWS EC2上で稼働していたらしく、次プラットフォームとして選択肢にあったのがECS or EKS。
ECSではなくEKSを選択したのには「サービス的にEKSアドオンや周辺ツールも充実し始めていること、現場エンジニアもk8sに知見もあったから」とのこと。
個人的には特に監視/モニタリング環境で下記色々使っているのが知れてよかったです。
(お恥ずかしい話、あまりコンテナ運用系の勉強をしてこなかったので...)
また細かい移行などは資料を見ていただく方がいいかと思うので省きますが、嬉しいコメントだったのは以下黄色マーカにしたKubernetesは難しいイメージあったので、こういう話を聞けるとCloudNative頑張って勉強するか...ってなれましたwww
Day2
残念ながらDay2は都合上、オフラインが難しく、オンライン参加しました。
2つほどセッション聴講させていただきました。
1つだけですが備忘録がてらメモと所感を記載します。
セッション:Infrastructure in PayPay
PayPayのDBをAuroraからTiDBに移管したとのことでした。
※TiDBはMySQL互換のオープンソースのデータベースでスケーラブルな分散DB
水平スケールや強い整合性を持つトランザクションといったところで決済処理に利用するDBとして最適とのこと。
名前だけはちょくちょく聞いたことがあるのですが、普段利用しているPayPayが移管したと聞いて興味を引きました。
また、マルチリージョン/マルチクラスタについても言及しており、k8sとTerraformで運用しているとのことでした。
やはりこの2つは日々デファクトスタンダードになりつつあるなと感じたセッションでした
その他の企画
もちろんセッションだけではなく、以下のような企画も色々用意されていました。
ハンズオン狙っていたのですが、私が確認したときには満員御礼になっていました...
Day1参加時はスタンプラリーを通じて、いくつかの協賛企業様と会話したりノベルティグッズ(Tシャツやステッカー)をいただきました。
またCommunity LTはあまり参加できなかったのですが、たくさんの技術コミュニティが紹介されていました!
こういうのものに参加するのも手だなと思い、とても良い取り組みだなあと感心しました。
コミュニティ一覧のURLを掲載するので興味があるものあれば!!
最後に
こういうカンファレンスに参加/視聴するとやはりモチベーションが高まりますね。
両日にオフラインとオンライン参加させていただいた身からすると、こういうオフライン × オンラインのハイブリッド開催のイベントがどんどん増えていけばいいなと思った次第です。