第1回 ChatGPTやClaudeは最高だけど、企業で使うとヤバい罠？〜AI基礎とローカルAI編〜

こんにちは！Nasubiです。
若手営業という看板はそっと床に置き、最近はNutanixこれから勢として日々インフラの奥深さと格闘しています

さて、世間は空前のAIブームですなぁ
皆さんも普段の業務やプライベートで、ChatGPTやClaudeなどの生成AIをガンガン使っているんじゃないでしょうか？

実はNutanixも、いつの間にかHCIの会社からEnterprise AIプラットフォームの会社へと看板を掛け替えているんです。（えw そうやって流行りにのって〜と言う声が聞こえます）

えっ、Nutanixってインフラでしょ？AIってアプリ屋さんの領域じゃないの？
とかクラウドのAIサービスを使えばいいじゃん。なんでわざわざオンプレ（ローカル）？

…わかります。
でも勉強していくうちに、これはクラウドAIだけに頼ってるとヤバい未来が来るかもと思わなくもなかったり思ったり...w

言いたいことが山ほどあるので、全3回の連載でゆる〜く、でも少し技術も交えて。
企業がAIを自前で持つ意味（ローカルAI）」について語っていきたいと思います！
（にゅーたこれから勢とか言ってAIも語ってみてるので間違ったこと言いそうなので自己責任で聞いてください。)

みんな大好きクラウドAI。でも企業利用には罠がある

ChatGPTやClaudeのようなパブリッククラウドのAIサービスは、本当に賢くて便利です。
最近なんかはAIが自分で考えてタスクをこなすAgentic AI（自律型エージェント）の時代にも突入しています
問いに対して答えるだけじゃなくてドキュメントを読んで要約してメールを打つ。みたいにエージェントのように動いてくれるAIさん。

でも、これを企業が本番環境のシステムに組み込もうとした途端、インフラやセキュリティの担当者は無法地帯と呼べるほどの恐ろしい壁にぶち当たります

罠1：恐怖の「トークン課金地獄」（コスト）

クラウドのAIは「1文字（トークン）あたり〇円」という従量課金が基本です。
人間がチャットで質問する程度なら可愛いものですが、システムが裏側で自動処理を始めるとトークン消費が爆発します。

海外の掲示板では、Claudeのコマンドを一発叩いたら、一晩で約6,000ドル（約100万円）の請求が来た…という恐ろしい悲鳴が上がっていたりします。
この手の記事は調べればいっぱい出てきますよ！日本語→英語に変換するだけでも課金されて...と、恐ろしい...

使われれば使われるほどシステムとしては成功なのに、月末の請求書が怖すぎるという矛盾に陥るわけです

罠2：AIが暴走？増殖するシャドーAI（ガバナンスとセキュリティ）

自律型エージェントは便利な反面、Agentが勝手にユーザーのホームディレクトリやメールを全削除してしまったという笑えない事故も起きています。

さらに、各部門が勝手にAPIキーを発行して、IT部門の視界の外でAIを使い始める「シャドーAI」が社内に潜み始めます。
自社の機密データが、どの外部モデルに渡ったのか誰も正確に答えられないという、セキュリティ部門が泡を吹いて倒れる事態になりかねません

そこで注目されるローカルAI（プライベートAI）という選択肢

「じゃあどうすんの！」というところで登場するのが、社内のインフラ上にOSS（オープンソース）のAIモデルをデプロイして、自分たち専用のAI環境を作っちゃおうぜ！というアプローチです

ここでやっと、Nutanixのようなインフラ基盤が輝き始めます！！！

1. 推論し放題の定額制

自社のインフラ上でAIを動かせば、インフラのコストは固定です。
どれだけAIに喋らせても、大量の社内ドキュメントを読み込ませても、追加のトークン課金はゼロ！「これ、自社でホストした方が絶対に安心じゃん」となります。

2. 外部にデータが出ない完全隔離と統制

自社基盤で動くAIなら、データはデータセンター（またはプライベートクラウド）から一歩も外に出ません。
さらに、にゅーたにはAgent Gatewayという、AIとユーザーの間に立つ関所のような機能があり、誰がどのモデルにアクセスできるか（RBAC）を中央でコントロールし、監査ログもしっかり残せます

でもAI用インフラって、GPUが高いんでしょ？

自前でAI基盤を持つ（ローカルAI）と聞くと、「NVIDIAのバカ高いGPUサーバーを買わなきゃいけないんでしょ？稟議通らないよ…」と思うかもしれません。

**ここが一番の推しポイントなんですが、Nutanixなら「CPU」から始められます！！！！

最近はSLM（小規模言語モデル）という、特定のタスクに特化したエコで軽量なAIモデルがたくさん出てきています。
Nutanixなら、まずは既存の仮想化基盤のCPUリソースのみで軽量モデルを動かして、サクッとPoC（概念実証）を始めることができるんです。

小さく始めて、効果が出たら本命のユースケース用にGPUを1台追加、そして本番環境へスケールアウトしていく…。
このいつでも立ち止まれるスモールスタートができるのが、仮想化基盤を使う最大のメリットなんですよね

次回（第2回）は、この「インフラ担当とアプリ担当の境界線」や、**「ローカルAIを動かすなら、ぶっちゃけMac Miniも競合になる説（笑）」**など、さらにディープでリアルな話に切り込んでいきたいと思います！

気まぐれ更新ですが、次回もお楽しみに！Nasubiでした🍆