第2回：Nutanixこれから勢が語る！インフラ勢が知るべき企業AIのリアル
こんにちは！Nasubiです🍆
「Nutanixこれから勢」として、AIとインフラの関わりについてゆる〜く紐解いていく連載の第2回です。
前回の記事（第1回）では、「クラウドAIの課金地獄とシャドーAIの罠」そして「Nutanixで自前AI（ローカルAI）を持つ意味」について書きました。
今回は、現場で実際にAIの話をしていると必ずぶち当たるそれ、アプリ屋の仕事でしょ？という壁と、みんな薄々感じている「ぶっちゃけローカルAIならMac Miniでよくない？」というリアルすぎる競合（笑）について、私の持論を交えて少しテッキーに語っていきます！
その前に…AI界隈の「呪文」をサクッと翻訳🪄
本題に入る前に、AIの話になると必ず出てくるアルファベットの呪文たちを、超ざっくり翻訳しておきます。これさえ知っておけば、明日からAIの会議でドヤ顔できます。
-
LLM（大規模言語モデル）
- ChatGPTなどの裏側で動いている「超巨大で賢い脳みそ」。知識量がエグいですが、動かすのに高価なGPU（電気代とマシンのパワー）がゴリゴリ必要です。
-
SLM（小規模言語モデル）
- LLMの軽量版。「特定の仕事だけならこれで十分！」というミニ脳みそです。実はこれ、CPUだけでもサクサク動かせちゃうので、企業がスモールスタートする時の本命です。
-
RAG（検索拡張生成）
- AIの脳みそに「自社の社外秘マニュアル」や「最新の顧客データ」を横からカンペとして渡して、それに沿って回答させる仕組みです。企業がAIを使うならほぼ100%これを使います[cite: 1]。
-
Fine Tuning（ファインチューニング）
- カンペを渡すのではなく、AIの脳みそ自体を自社専用に「再学習（魔改造）」すること。手間とコストがめちゃくちゃかかります。
それ、アプリチームの領域でしょ？の壁
さて、「RAGを使って自社専用のAIを作ろう！」となった時、インフラ担当の方からよくこんな声を聞きます。
「うちはインフラだからAIアプリは作らないよ」
「開発チームがAWS（EKS）とかで勝手にやってるから関係ないかな〜」
わかります。でもこれ、インフラチームがAI開発の主導権を握り、コスト爆発を防ぐ大チャンスを逃しているんです！
にゅーたの考え方ではAI開発者とプラットフォーム（インフラ）エンジニアの役割をきっちり分けています。
- AI開発者（アプリ担当）： ツールを使ってAIアプリを早く作りたい。面倒なインフラやK8s（Kubernetes）の構築はやりたくない。
- インフラ管理者： アプリチームに自由に開発させたいけど、セキュリティは守りたいし、インフラの運用は自動化して楽にしたい。
NutanixのAI基盤（NAI / NKP(Nutanix Kubernetes Platform）は、アプリを作るツールそのものではなく、開発者が、1クリックで安全にAIモデルを展開できる『クラウドみたいなプラットフォーム』をオンプレに作るものです。
「開発チームがAWSでやってるアレ」を、そのままセキュアな自社インフラに持ってきて、ガバナンスを効かせられるのがインフラ側の最大の価値...らしい。
企業に潜む「ローカルAI」のリアルな落とし穴
「オンプレでAIをやる意味はわかった。でも、それってにゅーたじゃなくても良くない？」
そう、実は企業の現場にはいろんなものがあるんですね...（キャッチアップが大変...><)
1. デスクの下の数百万円のAIワークステーション
個人のテストなら「Mac Mini」で十分ですが、少し規模が大きくなると、開発部門が予算を使ってGPUが何枚も刺さった数百万円のバキバキのゲーミングPC（ワークステーション）をコッソリ買っていたりします。
【落とし穴】
これは完全に「シャドーAI」です。誰が何のデータを入れているか分からず、セキュリティ部門の監査（ログ提出）にも耐えられません。Nutanixなら「Agent Gateway（関所）」を通して、誰がどのモデルを使ったか中央で一括統制できます。
2. とにかく物理！ベアメタルGPUサーバー
「じゃあ、情シス部門でデカい物理サーバーとGPUを買って、直接AI動かせばいいじゃん！」という力技です。
【落とし穴】
ハードを買うのは簡単ですが、その上で動かす「Kubernetes」などのコンテナ基盤、誰が運用するんでしょうか？
さらに効果が出たからGPUサーバーをもう1台追加しようとなった時、物理環境だとシステム停止や再構築の地獄が待っています。Nutanixの仮想化基盤なら、稼働したまま無停止でノードを追加し、スケールアウトできちゃいます
インフラの強靭さが、AIの賢さを支える
個人や部署のおもちゃになりがちなローカルAIを、全社で安全に使えるエンタープライズのインフラに昇華させるのが、Nutanixの役割です。
今回は少しテッキーな裏話をしました。
でも、やっぱりいきなりNutanixでAI基盤を作るなんて、予算のハードル高すぎない？
次回（最終回）は、NutanixだからこそできるGPUなし・CPUから始めるAIのスモールスタート術について解説します。
お楽しみに！Nasubiでした🍆