今日は大手のイベントに参加。
connpassに登録されているが、登録手続きがconnpass以外にある勉強会でも大丈夫、というのを書くだけの記事である。
本日の勉強会
今回の勉強会ページは以下。
生成系AIの勉強会は頻繁にGenAIとかGenerateAIとかGAIみたいに略したりするため、GAIといえば生成系AIを略した表記としてほしい。
各社でGAIという表記を固有名詞的に使っているので本稿も各社の表記に従う。
クラウドの時代に乗り遅れないために
- Azure Arc(専用管理が必要なもの、環境を維持し、リソースを提供する)
- どうしてもオンプレ、他社クラウド(AWSなど)と協業していく
Xaasの位置付け
- Saas: 既存製品の利用
- Paas: 自社製品に組み込み
特にChatGPTの拡張サービスを色々な会社が出していたり、研修プランもパッケージングしているが、MSが出したら他社要らなくなりそう。
OpenAI ChatGPTを使うならAzureのAI ChatGPT使おう
プランが気になるところだ。
本家OpenAIのようにプラグイン突っ込めるかどうか。
→別スピーカーより、できるとのこと
所感
メインはAzure系。Windowsは売り切った(普及した)
思うに、Windowsでシェア取ってAzureを推したいなら、Windowsの標準アプリとしてAzureの一部を使いやすいようにアプリにしてプリインすればいいのでは?という気がする。
出来が良ければ古い時代のIEのようにシェア取りに行ける気がする。もう胡座をかかないだろう。
AZPower社 ChatGPTから始まったPowerGenAIの作り方
生成系AI(分かりやすくChatGPTとする)をユーザーに提供する前にある程度事前学習(教師ありデータによるラベリング)がされている。
これに対して追加で学習させる事ができる。(ファインチューニング)
対話型で学習させると、特定のユーザーまたはクラスタによるコミュニケーションを過学習してしまう(AIなのにバイアスを持ってしまう)危険性が考えられる。
→人間の親子学習のようなものを感じるね
生成AIは人間化ではない
Generative AI is not…
- 思考しない: Intelligent
- 決定論的ではない: Deterministic
- 信頼してはいけない: Trustworthy
回答がいかにもそれっぽいだけに、専門家でもなければ見分けるのが難しい(信用してしまう)
しっかりと内容を精査し、正しさを人間が保証する必要がある。
AIオーケストレーション
LLMの利用方法をいくつかの層に分解して構築
- プロンプトエンジニアリング
- プロンプト: タスク指示の内容
- メタプロンプト: ルールや制限、振る舞いを記述するプロンプト
-
- データグラウンディング: モデルが学習していない新たなデータを付与する。
- プラグインエグゼキューション
ムダがクラウドを高くする - コスト30%削減 Azure移行成功の秘訣〜
円安の影響をモロに受ける。クラウドサービスは外資だからね…。
必ずしもAWSが安くなるわけじゃないよ、という話を自社(他社導入)事例を交えてのお話。
主にクライアントの課題と自社サービスの話なので書く事がない。
ストレージが高い理由は、過去一度もアクセスしなさそうなファイル(バックアップを含む)を安いストレージに置けば良い。
クラウド移行でコストカットできるかは、知見があるベンダーを入れよう、という提案。
→高いコンサル費を払うとイニシャルコストが安くならないので及び腰になるなぁ。
ソフトクリエイト社 ファイルサーバーをAzureへテイクオフ
ファイルサーバーをクラウド化すると必要な分だけ容量を買えるのが強い!
→個人レベルで考えた場合、起きっぱなしにするだけのデータを月々課金したくない。トータルで見るとオンプレの方が安上がり。
→問題は、ファイルサーバーをどこにするか、という観点で評価できているか。
→ファイルサーバーの種類が増えると、ファイルサーバー自体の管理・メンテナンスコストが生じないか?
Azureサービス関連(MSのサービス?)だと1アカウントで様々なファイルサーバーが使えるというのもメリットか。
いわゆるオンプレのメリデメとクラウドのメリデメで、移行元の運用をクラウドで100%できるようにしないと移行しない、という選択は勿体無い。
今回はオンプレ→クラウドの話だが、単純にDX化についても同じ事が言える。
運用制御の話(主にActiveDirectory)を聞くと、複雑な運用制御をするための運用コストが発生しているのでファイルサーバー以外の部分でコストを上げてしまっているような気がする。
なお、運用まで想定してファイルサーバーで冗長管理をしたい場合、オンプレのファイルパスとクラウドのファイルパスは一致させる必要がある。
(ファイルの同期が取れず、別物として処理されてしまう)
また、ファイルロック状態(主にMS製品を開きっぱなしにする)ではバックアップがうまく動かない事がある。
AIで活用したいなら、活用するAIの構造に従って格納する必要もあるので、多角的な運用に配慮が必要になる。
全体所感
17時に帰れメロディー流れてるのいいなぁ。
今回は「Azureの活用方法」という点だったが、筆者が関心を持っていたのは「AzureAI」だったので学びは少なかったように思う。
Virtual Training Dayシリーズで詳細を勉強していくようにしよう。
今回はTKPカンファレンスルームだったが、MS社内のイベントにも参加していきたい。