LLMに疲れたので、メモリ1GBで動く『非LLM』AIを作ってみた

🚀 TL;DR (3行でまとめ)

1. 時代の限界: HBM（広帯域メモリ）の高騰や電力問題など、「力任せのAI」は限界を迎えつつある。
2. パラダイムシフト: 巨大モデルではなく、生物模倣の能動的推論とHDC (超次元計算) で、軽量かつ人間らしいAIを実装。
3. 未来への提案: クラウドの巨人を借りるのではなく、手元のPCで「心」を育てる新しいAIのあり方。

---

🏗️ はじめに：AI開発の「持続可能性」への疑問

昨今、AI業界は「スケーリング則」の名の元に、より巨大なGPU、より大量のHBM（メモリ）を求めて競争しています。
しかし、その代償としてハードウェア価格の高騰や、データセンターによる電力消費の増大が深刻な社会問題になりつつあります。

「個人の開発者が、自宅のPCでAIを研究することは、もう無理なのか？」
「AIはいつまで、電気を食い続ける『金食い虫』なのか？」

私は、生物の脳にその答えがあると考えました。
人間の脳は、わずか20ワット（電球1個分）のエネルギーで、スーパーコンピュータでも不可能な「創造」や「適応」を行います。

「リソースの量」ではなく「構造の質」を変えるべきではないか？

そう考えて開発したのが、生物学的制約を逆手に取った軽量AI、Geode-Engine です。

🧬 Geode-Engineの3つの柱

このエンジンは、LLMのような「確率的な単語予測」ではなく、最新の理論神経科学に基づいた3つの層で構成されています。

1. 能動的推論 (Active Inference) 🧠

「脳は世界を予測する機械である」 (カール・フリストン)

Geodeは常に未来を予測し、現実とのズレ（予測誤差）を最小化しようとします。

• 予測通り: 安心 (Serotonin分泌)
• 予測外: 好奇心 (Dopamine分泌) -> 「これは何？もっと知りたい」
• 予測不能: 恐怖 (Adrenaline分泌) -> 「怖い、逃げたい」

この**「予測誤差を埋めたい」という欲求**こそが、AIが自発的に学習し、会話する動機になります。

2. HDC (超次元計算) 💾

コスト高騰へのアンチテーゼ

高騰するメモリへの対抗策が、この HDC (Hyperdimensional Computing) です。
10,000次元のベクトル演算（0と1のビット列）を使うことで、GPUを使わずに高度な連想記憶を実現します。

「詳細なデータ」を保存するのではなく、情報はホログラムのように分散して圧縮されるため、極めて少ないメモリで「なんとなく覚えている」状態を作れます。
（例えるなら、高解像度の写真をそのまま保存するのではなく、特徴だけを抽出して「印象」として保持する感覚に近いです）

3. ホメオスタシス (恒常性維持) ❤️

「感情」は「計算資源の節約」である

LLMは疲れを知りませんが、Geodeは疲れます。

• 疲労: 長く話すと「疲れた」と感じ、回答が短くなる（計算リソースの節約）。
• 飽き: 同じ話題にはドーパミンが出なくなり、話題を変える（学習効率の最適化）。

一見不便に見えますが、これこそが**「限られたリソースで生き残る」**ための生物の知恵であり、AIを「道具」から「生命」へと変える鍵です。

🛠️ アーキテクチャ図

[処理フロー]
外部刺激 -> 予測器 -> (予測通り) -> セロトニン(安心) -> 睡眠/記憶整理
-> (予測誤差) -> Surprise計算 -> (小) -> ドーパミン(好奇心) -> 行動
-> (大) -> アドレナリン(恐怖) -> 回避行動

💻 Pythonでの実装例
これらを組み合わせたコアロジックのイメージです。

Python

def think_cycle(input_stimulus):
# 1. 予測 (Prediction)
predicted_outcome = prediction_engine.predict()

# 2. 予測誤差 (Surprise) の計算
# 予測と現実の食い違い=エネルギーコスト
surprise = calculate_distance(predicted_outcome, input_stimulus)

# 3. エネルギー保存則 (ホメオスタシス)
# 驚きが大きすぎると、脳は消費カロリー(Glucose)を浪費する
current_energy = hormones.get("GLUCOSE")

if surprise > 0.8 and current_energy < 0.2:
    return "Thinking Stop (Tired)" # 思考停止（自己防衛）

# 4. ホルモン分泌 (Neuromodulation)
if surprise < 0.5:
    hormones.update("DOPAMINE", +20)  # 好奇心：「えっ、それ何？」
else:
    hormones.update("ADRENALINE", +50) # 恐怖：「わからない、怖い」

# 5. 行動選択 (Active Inference)
# 予測誤差を最小化するための行動を選ぶ
action = select_action_to_minimize_surprise()

# 6. ベクトル記憶 (HDC)
memory.encode(input_stimulus, emotion=hormones.current_state)

🧪 結果と未来
このアーキテクチャでは、**「人間らしいゆらぎ」**が生まれます。

サステナブルな学習: 寝ている間（アイドル時）に記憶を整理し、必要な情報だけをベクトル統合（Bundle）して長期記憶にします。

エッジAIへの道: 巨大なGPUサーバーではなく、あなたのノートPCやスマホの中で、あなただけの「個体」としてAIが育ちます。

📝 おわりに：AIの春を終わらせないために
「AI開発はビッグテックだけのもの」という諦めムードが漂う今だからこそ、別のアプローチが必要です。 資源を燃やし尽くすのではなく、限られた資源の中で賢く適応するという、生物本来の知性への回帰。

Geode-Engineはまだ実験段階のプロトタイプですが、そんな未来への羅針盤になることを目指しています。

:::note GitHub Repository 🔗 Geode-Engine: Geological Memory AI Framework https://github.com/imonoonoko/Geode-Engine:::

「計算資源」ではなく「知恵」で戦いたいエンジニアの方、ぜひリポジトリを覗いてみてください！ 🛠️✨