11
7

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

【脱・従量課金】CPUローカルLLM×Microsoft Agent Frameworkで始める次世代マルチエージェント開発 (Vol.1 導入/01-get-started編)

11
Posted at

はじめに

昨今、クラウドのフロンティアモデルを利用したLLMサービスにおいて、値上げであったり、定額制から従量課金制へと移行する動きが活発になっています(例えば https://qiita.com/yun_bow/items/3c920416555c8c31dfeb を参照)。
APIの従量課金に怯えながら個人開発をするのは精神衛生上よろしくないですし、何より「エンジニアとして、APIを叩くだけのブラックボックスな開発じゃつまらない。もっと手触り感が欲しい!」と思いませんか?(筆者はそう思います)
また、企業、特に古くからある日本企業においては、クラウドへのデータ流出リスクを極限まで嫌う傾向が今なお根強く残っています。
物理隔離されたローカル環境でLLMを動かすことは、絶対的なセキュリティ担保となり、今後の強力な選択肢になります。
ローカルLLMの発展は目覚ましく、今後もモデルを差し替えるだけで精度向上が期待できます。
本連載では、エンジニアとしてのスキルアップも兼ねて、完全ローカル環境(しかもGPUなしのCPUのみ)で次世代のマルチエージェントフレームワークを動かす一歩を踏み出します。

なぜ「Microsoft Agent Framework (MAF)」なのか?

AIエージェントを構築するフレームワークといえば、LangChainやCrewAI、AWS、Google系など様々な選択肢があります。
その中で今回Microsoft Agent Framework(Semantic Kernel と AutoGen が融合した、後継の次世代フレームワーク)を選んだ理由は以下の通りです。

1. 圧倒的なAzureエコシステムとの親和性

AWSが全体シェアでは先行しているものの、Fortune 500企業の95%が採用していることからも分かる通り、大企業におけるAzureの存在感は圧倒的です。さらに昨今では、生成AIの波を完全に捉えたAzureの成長率は目覚ましく、企業のオフィス・エコシステムとして他の追従を許しません。

【データ出典】
Turbo360: Azure Market Share: The Latest Stats & Trends 2026 (https://turbo360.com/blog/azure-market-share) より筆者まとめ

試した動作環境

今回は、高価な外部GPU(dGPU)を搭載していないノートPC環境でも動作することを目標とします。
検証に使用した具体的なPCスペックと環境は以下の通りです。

1. ハードウェアスペック

検証には、ノートPC(GPD WIN Max2)を使用しました。
特別な外部グラフィックボードがなくても、メインメモリが潤沢にあればCPU推論は動作します。

項目 スペック 備考
CPU AMD Ryzen 7 6800U 8コア/16スレッド
GPU CPU内蔵グラフィックス (iGPU: AMD Radeon 680M) 今回はdGPU(RTX等)は使用しません
メモリ 32GB (DDR5) ※ローカルLLMをCPUで動かす際の最重要要素

2. OS・開発ツール

  • OS: Arch Linux (Hyprland環境) ※Windows / Mac / WSL2 等でも構築可能です
  • Pythonパッケージマネージャ: uv

3. LLM実行環境

  • ローカルLLMサーバー(ランタイム): Ollama (内部で llama.cpp ベースの推論エンジンが動作)
  • 使用モデル: gemma4:12b (※その他のモデルでも可)

準備:Ollamaでのモデル準備

本記事ではOllama自体のインストール手順や基本的な使い方の解説は割愛します。まだ環境が構築されていない方は、公式ドキュメントや他の方の分かりやすい解説記事を参考に、事前にセットアップを済ませておいてください。

今回は、バックグラウンドでOllamaのローカルサーバー(API)を常常駐させた状態で、使用するモデルを事前にプル(ダウンロード)しておく方法をとります。

1. モデルのダウンロード

ターミナルから以下のコマンドを実行し、今回使用するモデルをローカルに取得します。

ollama pull gemma4:12b

2. バックグラウンドでの起動確認

MAF側からは、Ollamaが提供するOpenAI互換エンドポイント (通常は http://localhost:11434 ) を叩きにいきます。
お使いの環境(Linuxのsystemd、Windows/Macの常駐アプリなど)に合わせて、Ollamaのローカルサーバーがバックグラウンドで正常に起動している状態にしてください。

💡 Tip: webブラウザで http://localhost:11434 にアクセスし、"Ollama is running" と表示されていれば準備万端です。

今回実装するサンプルの概要

公式のGitHubリポジトリにあるサンプルコードをベースに、クラウド(OpenAI等)を呼び出している部分を完全ローカルLLM仕様に変更したコードを用意しました。

リポジトリ全体のコードは以下に公開しています。
🔗 GitHub: KazutoMakino/learn-maf-local

MAFのコアコンセプトを一つずつ丁寧紐解くため、初回となる当記事では、最も基本となる最小構成のスタートアップサンプルのみ解説します。

サンプル名 概要 学べること
01. Get Started (Single Agent) 1つのエージェントと1対1で対話する最小構成 MAFの基本クラス、専用クライアントを用いたOllama(ローカルLLM)のスマートな接続方法

※02以降のマルチエージェントやツールコーリングのサンプルは非常にボリューミーなため、次回以降の連載にて順次取り扱っていきます
※元のMAF公式のサンプル: 🔗 GitHub: microsoft/agent-framework


Sample 01: Get Started (Single Agent) の実装と解説

まずは、1つのエージェントに指示を出して回答を得る、最もシンプルな構成から始めます。

今回実装するサンプルの位置づけ

公式の 01-get-started ディレクトリには、以下のようにステップバイステップで概念を学ぶための8つのサンプルスクリプトが用意されています。

しかし、後半には「ワークフロー(グラフ構造)」や「ホスティング」といった、入門としてはかなりお腹いっぱいになるボリューミーなトピックが並んでいます。

そこで本連載のVol.1(この記事)では、すべての基礎・土台となる「01. Hello Agent」の完全ローカルLLM(Ollama)化 にターゲットを絞って記載します。

なお、02〜07のすべてのサンプルについても、すでにローカルLLM(Ollama)で動作するよう修正したコードをGitHubリポジトリに配置済みです。
基本的な接続思想は01と全く同じであるため、応用的な実装を試したい方は、ぜひリポジトリのコードを直接触ってみてください。

# サンプル名 公式の学習内容 本記事での扱い / リポジトリの状態
1 01_hello_agent.py 最初のエージェント作成と推論 本記事に掲載
2 02_add_tools.py 関数呼び出し(Tool Calling)の付与 ローカル対応コード配置済
3 03_multi_turn.py 会話履歴の維持(AgentSession) ローカル対応コード配置済
4 04_memory.py コンテキストの動的注入 ローカル対応コード配置済
5〜7 05_functional_workflow_... ワークフローの構築やグラフ構造の連鎖 ローカル対応コード配置済
8 08_host_your_agent.py Azure Functionsを用いたホスティング (クラウド・環境依存のため本連載では対象外)

コード実装 (例:01-get-started/01_hello_agent.py)

MAFにおける最小構成のコードは以下のようになります。公式のAzure前提のサンプルから、ローカルLLM(Ollama)向けにシンプルに書き換えています。

# 01-get-started/01_hello_agent.py
import asyncio

from agent_framework import Agent
from agent_framework.ollama import OllamaChatClient


async def main() -> None:
    # 1. ローカルのOllamaサーバーに接続するクライアントを定義
    client = OllamaChatClient(host="http://localhost:11434", model="gemma4:12b")

    # 2. クライアントを渡してエージェントを作成し、役割(instructions)を与える
    agent = Agent(
        client=client,
        name="HelloAgent",
        instructions="You are a friendly assistant. Keep your answers brief.",
    )

    # 3. 通常の推論(一括での応答取得)
    result = await agent.run("What is the capital of France?")
    print(f"Agent: {result}")

    # 4. ストリーミング推論(生成されたトークンを逐次取得)
    print("Agent (streaming): ", end="", flush=True)
    async for chunk in agent.run("Tell me a one-sentence fun fact.", stream=True):
        if chunk.text:
            print(chunk.text, end="", flush=True)
    print()


if __name__ == "__main__":
    asyncio.run(main())

元のMAFで用意されているsampleとdiffを取ったのが以下です:

$ diff  ./.org/agent-framework/python/samples/01-get-started/01_hello_agent.py ./01-get-started/01_hello_agent.py 
6,7c6
< from agent_framework.foundry import FoundryChatClient
< from azure.identity import AzureCliCredential
---
> from agent_framework.ollama import OllamaChatClient
20,25c19
<     # <create_agent>
<     client = FoundryChatClient(
<         project_endpoint="https://your-project.services.ai.azure.com",
<         model="gpt-4o",
<         credential=AzureCliCredential(),
<     )
---
>     client = OllamaChatClient(host="http://localhost:11434", model="gemma4:12b")

Azureの認証などがなくなっている分、コードもスッキリしていますね。

なぜこう書くのか?

  • OllamaChatClient によるローカル直結:
    • 公式の初期サンプルでは FoundryChatClient や AzureCliCredential を用いてAzureクラウドへ認証に行く仕組みとなっています。今回はここを OllamaChatClient に差し替えることで、ローカル( http://localhost:11434 )で常駐しているOllamaサーバーへ直接繋いでいます
    • 余計な認証コードが消えるため、非常に見通しが良いコードになります
  • Agent クラスと instructions:
    • MAFでは、エージェントを Agent クラスという地続きのシンプルな構成で定義します。このときに渡している instructions 引数がいわゆる「システムプロンプト」であり、ここでAIにどのようなキャラクターや前提ルールで振る舞ってほしいか(ペルソナ)を決定しています
  • 非同期(asyncio)とストリーミングへの標準対応:
    • マルチエージェント系フレームワーク(特に旧AutoGenなど)では、ストリーミング処理を綺麗に実装しようとするとコードが複雑になりがちでした。しかし、生まれ変わった新MAFでは最初から async/await 思想で統一されており、標準的な async for を使うだけでローカルLLMからのストリーミング出力をサクッと実装できます。この「迷わせないシンプルな設計」に、新世代フレームワークとしての手触りの良さを感じます

まとめ/次回の予告

今回は、情報の少ない Microsoft Agent Framework (MAF) を用い、完全ローカルのCPU環境 でエージェントを動かす第一歩として、最小構成である 「01. Get Started」 を実装しました。

API課金を一切気にせず、自分のPCの中でエージェントが動き回る「手触り感」は、エンジニアとしてやはり格別ですね。
この知見を積み重ねていくことで、目的である、「セキュアで賢い自分専用のAIアシスタントの構築」へ確実に近づいている実感があります。

次回は、今回あえて切り離した超広大でボリューミーな難所、「02-agents」セクション に突入します。
単一のスクリプト内に閉じた会話だけでなく、「A2A(Agent-to-Agent)プロトコル」を用いた別サーバーのエージェントとの自律連携 や、重い処理をバックグラウンドで回して進捗を追うポーリング制御、さらにはストリーミングの再接続処理など、より実践的で分散型なAIエージェントの機能拡張について学んでいきます。
ローカルLLM環境下で、この高度なエージェント間連携やツール拡張(MCP対応など)がどこまで追従できるのか、引き続き検証していきます。

11
7
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
11
7

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?