2026年9月11日時点の公開ドキュメントを根拠に、LLMの**事前学習（pre-training）とファインチューニング（fine-tuning）**の違いを初心者向けに整理します。前段の「次のトークン予測」と「トークン／コンテキストウィンドウ」を前提に、ここでは学習段階の役割分担だけを固定します。
ゴールは、「社内データを覚えさせたいからファインチューニング」と即断せず、何を変える技術かを説明できる状態になることです。
結論：事前学習は土台、ファインチューニングは振る舞いの調整
| 観点 | 事前学習（Pre-training） | ファインチューニング（Fine-tuning） |
|---|---|---|
| 目的 | 言語・知識・推論の一般的な土台を作る | 特定タスク・書式・トーンに強くする |
| 典型データ | 大規模な公開／ライセンス済みコーパス | 入力と望ましい出力の例（比較的少数） |
| 誰がやるか | モデル開発側（巨大な計算資源） | 開発側の後段学習、または利用者がAPIで追加学習 |
| 変えるもの | モデルの土台となる重み全体 | 既存モデルの重みを追加学習で調整 |
| 初心者が触るか | ほぼ触れない（利用する側） | 必要時のみ。まずプロンプト／評価を先に |
覚え方は次の一文で十分です。
事前学習＝土台づくり。ファインチューニング＝その土台の上で「どう答えるか」を寄せる追加学習。
1. 学習の全体像（図解）
チャット製品として使えるまでの流れは、ざっくり次の3段です。
[段階1] 事前学習（Pre-training）
大量テキストで「次のトークン」を予測する練習
↓
[段階2] 後段学習（Post-training / アライメント）
指示追従・安全性・好みに寄せる
（SFT / RLHF / DPO など。広い意味でファインチューニング系）
↓
[段階3] 利用時の最適化（アプリ側）
プロンプト / 評価（evals） / 必要なら追加のファインチューニング
知識の鮮度・社内文書は RAG など外部参照と組み合わせる
OpenAI の GPT-4 Technical Report は、GPT-4 を「文書中の次のトークンを予測するよう事前学習した Transformer モデル」とし、その後のアライメントで事実性や望ましい振る舞いに寄せたと述べています（GPT-4 Technical Report）。
原文: "GPT-4 is a Transformer based model pre-trained to predict the next token in a document. The post-training alignment process results in improved performance on measures of factuality and adherence to desired behavior."
日本語訳: 「GPT-4は、文書中の次のトークンを予測するよう事前学習されたTransformerベースのモデルである。事後学習によるアライメントにより、事実性や望ましい振る舞いへの適合の指標が改善する。」（出典: OpenAI GPT-4 Technical Report）
2. 事前学習とは何か
確認できる事実
- 事前学習の中核は、大量テキスト上での次トークン予測です。ラベルを人手で全部付けるのではなく、テキスト自身が「次に来るもの」という教師信号になります（自己教師あり学習）。
- モデル開発側が巨大な計算資源で行い、利用者は完成に近いモデルをAPIや製品経由で使うのが一般的です。
- OpenAI のモデル最適化ガイドは、「OpenAIのモデルはすでに幅広い題材・タスク向けに事前学習済み」と明記しています（Model optimization）。
実務解釈
| よくある誤解 | 実務での捉え方 |
|---|---|
| 事前学習＝社内Wikiを読ませること | 土台学習はモデル提供者側の仕事。社内知識は別経路（プロンプト／RAG等） |
| 事前学習済み＝何でも正確 | もっともらしい誤り（ハルシネーション）は残る |
| 自分でゼロから事前学習すべき | コスト・データ・専門性が桁違い。通常は既存モデルを使う |
初心者が最初に固定すべき境界は、「土台は買う／借りる。自作は例外」です。
3. ファインチューニングとは何か
確認できる事実
- OpenAI は、ファインチューニングを「事前学習済みのベースモデルに、アプリで期待する入出力例を与え、そのタスクで優れるモデルを得る」手段と説明しています（Model optimization）。
- 同ガイドでは、プロンプト単体より得られる利点として、例をコンテキストに毎回載せきれない量まで学習できること、短いプロンプトでコスト／遅延を下げられること、小さなモデルに狭いタスクを寄せられることなどを挙げています。
- 手法例として、正解例で教える SFT、好み比較の DPO、採点で強化する RFT などが紹介されています（対応モデル・提供状況は時点で変わるため、公式表を確認）。
原文: "Fine-tuning lets you take an OpenAI base model, provide the kinds of inputs and outputs you expect in your application, and get a model that excels in the tasks you’ll use it for."
日本語訳: 「ファインチューニングでは、OpenAIのベースモデルを取り、アプリで期待する入出力の種類を与え、そのタスクで優れるモデルを得られる。」（出典: OpenAI Model optimization）
実務解釈
ファインチューニングが得意なのは、だいたい次の系統です。
- 出力形式の固定（JSON・表・定型文）
- トーン／口調の一貫性
- 狭い分類・定型タスクの安定化
- 長い few-shot を毎回載せたくないとき
逆に、最新事実や社内固有のナレッジを「確実に覚えさせる」用途としては不向きなことが多いです。事実の更新は再学習が要り、出典も示しにくい。知識の参照は RAG やツール呼び出しと役割分担するのが定石です。
4. どちらを選ぶか（判断表）
| やりたいこと | まず試す手段 | ファインチューニングが候補になるか |
|---|---|---|
| 今日の仕様書に沿って答える | RAG / プロンプトに根拠を渡す | 低（知識更新向きではない） |
| 毎回同じJSONスキーマで返す | プロンプト＋評価 | 中〜高（安定しないとき） |
| 社内の口調に寄せる | システムプロンプト＋例示 | 中（量が多い・ブレが残るとき） |
| モデルの一般知能を底上げする | より強いベースモデルへ | 低（FTの目的ではない） |
| コストを下げつつ狭いタスクを回す | 小さなモデル＋プロンプト | 中〜高（評価が取れたあと） |
OpenAI 自身も、最適化の順番として 評価 → プロンプト →（必要なら）ファインチューニング のループを推奨しています。いきなり学習ジョブを切らないのが安全です。
実装チェックリスト
概念の固定
- 事前学習＝土台、ファインチューニング＝振る舞い調整、と説明できる
- 「社内知識を覚えさせる＝FT」と混同していない
- 後段学習（指示追従・安全性）と、利用者側の追加FTを区別できる
設計の順番
- まず評価セット（良し悪しの判定基準）を用意した
- プロンプト／few-shot で足りるか測った
- 知識はRAG等、振る舞いはプロンプト／FT、と役割を分けた
ファインチューニングに進む前
- 入出力例のデータ品質と件数を確認した
- 失敗例・境界例も含めた
- 学習後の回帰（他タスクが壊れていないか）を測る計画がある
- コスト・レイテンシ・運用（再学習の頻度）を見積もった
失敗パターン
パターン1：社内PDFを「覚えさせたい」だけでファインチューニングを選ぶ → 対策: 更新頻度と出典が要るならRAG／検索。FTは書式・口調・狭いタスク向けと切り分ける。
パターン2：評価なしで学習ジョブを回す → 対策: 先に evals。改善したかどうかを測れない学習はコストだけが増える。
パターン3：プロンプト未検証のまま「モデルが悪い」と断定する → 対策: 指示・例示・コンテキストの整理を先に。FTは後段の最適化。
パターン4：事前学習を自前でやろうとする → 対策: 計算・データ・運用が桁違い。既存の事前学習済みモデルを前提にする。
パターン5：一度FTしたら永久に正しいと思う → 対策: ベースモデル更新・仕様変更・データドリフトで再評価。学習は一回限りの魔法ではない。
参考リンク
- OpenAI — Model optimization（Fine-tuning ガイド）
- OpenAI — GPT-4 Technical Report
- OpenAI Cookbook — Fine-Tuning Techniques（SFT / DPO / RFT）
この記事を書いた人✏️@YushiYamamoto
ITPRODX.com代表 / AIアーキテクト
Next.js / TypeScript / n8nを活用した自律型アーキテクチャ設計を専門としています。
日々の自動化の検証結果や、ビジネス側の視点（ROI等）に関するより深い考察は、以下の公式サイトおよびnoteで発信しています。