そもそも「推論」とは

ざっくりと言ってしまえば、「何かの情報をもとにして結論を出すこと」

人間の場合の推論
例えば、「空が暗くなってきた」→「雨が降りそうだな」って考える
つまりは観察（空が暗い）から、結論（雨が降りそう）を導き出しすこと
AIや機械学習での推論
学習済みのモデルに入力データを与えて、答えや予測を出すことが「推論」
例えば、猫か犬かを判定するAIモデルがあったとして、「これは猫の画像ですよ〜」って答えてくれるイメージ

用語と基本構造を理解する

ポイントとなるのは主に以下の５つ

ざっくりとそれぞれ項目ごとにまとめていく

モデル = 「学習済みのAIの知識」を詰め込んだファイル（もしくは構造）

推論（Inference）＝学習済みモデルを使って「答えを出す」処理

モデルを作ったり動かすための「道具・ライブラリ」

モデルを保存する「ファイルの形式」のこと

Step 1: モデルを用意（学習済みのONNXファイルなど）
    ↓
Step 2: 入力（画像など）をモデルに渡す
    ↓
Step 3: モデルが推論（予測）を実行
    ↓
Step 4: 出力結果を受け取る（例：猫 98%）

用語	意味
モデル	AIの判断ロジック（中に重みなどが入ってる）
推論	モデルに入力を渡して答えを出してもらう
フレームワーク	モデルを作ったり使ったりする道具
ONNX	モデルの共通ファイル形式
推論エンジン	モデルをCPU/GPUで動かすソフト（ONNX Runtimeなど）

次回(推論#02)はメジャーなモデルについて記事を書こうと思います