はじめに

最近のAIエージェントツール（例：GitHub Copilot Agent、Claude Code、Clineなど）の登場により、エンジニアリングの開発体験は急速に進化しています。

本記事では、こうした AIエージェントを支えるアプリケーションやLLM呼び出しの内部で「何が起きているか」を可視化・トレースする方法を整理します。

特に、LiteLLM を中心としたトレース構成に注目し、OpenTelemetry / OpenLLMetry / Langfuse / Instana といったツールの使い分けや連携パターンについて解説します。

LLMアプリのトレース設計まとめ

LLMアプリケーション開発におけるLiteLLM、OpenLLMetry、Langfuse、Instanaの役割と使い分けを整理しました。

ツール	カテゴリ	主な役割	トレース範囲
LiteLLM	SDK・Proxy	LLM呼び出し、Span自動生成	LLM呼び出しのみ
OpenLLMetry	Tracer（SDK）	LLM＋アプリ用のSpan生成	LLM＋アプリ全体
OpenTelemetry	Tracer（SDK）	一般的なアプリのSpan生成	アプリ全体
Langfuse	Tracer（SDK）・Backend	プロンプト分析、応答の分析、Span生成・可視化	LLM内部＋アプリ全体
Instana	Backend・Tracer（Agent）	トレース分析・可視化、Instana Agentで通常アプリ用Tracer提供（LLM用にはOpenLLMetry利用）	アプリ全体

用途	推奨構成
LLMとアプリ全体のトレース	LiteLLM＋OpenLLMetry＋Instana
一般的なアプリのトレースのみ	OpenTelemetry＋Instana または Instana Agent＋Instana
LLM特化のプロンプトや応答の詳細分析	LiteLLM＋Langfuse

LLMアプリ開発の参考としてご活用ください。