はじめに
前回は、
「生成AIとは？ChatGPTやGeminiは何がすごいのか？」
について調べてみた内容をまとめました。
生成AIについて調べていると、
- ChatGPT
- Gemini
- Claude
- Copilot
など、さまざまなサービスが登場します。
しかし、それらの説明を見ていると、
「LLM（Large Language Model）」
という単語が必ず出てきます。
正直なところ、
「LLMって何？」
「どうやって文章を作っているの？」
という状態でした。
そこで今回は、
LLM（大規模言語モデル）について調べてみて分かったこと
を、自分自身の整理も兼ねてまとめてみたいと思います。
この記事はこんな方におすすめ
- ChatGPTを普段利用している方
- LLMという言葉を初めて聞いた方
- AIや生成AIに興味がある方
- データサイエンティストを目指している方
- 私と同じく「LLMって何？」という方
結論
調べてみて感じたのは、
「大量の文章を学習して、次に来る単語を予測する仕組み」
ということです。
例えば、
今日はいい天気なので、
という文章が入力されると、
散歩に行きます。
洗濯をします。
公園に行きます。
など、
次に続きそうな単語を予測し続けることで、文章を生成しているようです。
イメージ
LLMとは？
LLMは、
Large Language Model
の略で、日本語では、
大規模言語モデル
と呼ばれています。
名前のとおり、
- Large（大規模）
- Language（言語）
- Model（モデル）
という意味になります。
つまり、
「大量の文章を学習した言語モデル」
ということのようです。
ChatGPTはLLMなの？
調べてみると、
厳密には、
LLM
│
├─ GPT-5.5
├─ Gemini
├─ Claude
└─ Llama
│
▼
生成AIサービス
│
▼
ChatGPT
というイメージのようです。
例えば、
| サービス | 利用しているLLM |
|---|---|
| ChatGPT | GPTシリーズ |
| Gemini | Gemini |
| Claude | Claude |
| Meta AI | Llama |
つまり、
ChatGPTはLLMを利用したサービス
ということになります。
ChatGPTはどうやって文章を作るの？
一番気になっていたのが、
ChatGPTはどうやって文章を作っているの？
という点でした。
調べてみると、
次のような流れになっているようです。
「今日はいい天気なので、」
│
▼
「次は何だろう？」
│
▼
散歩（70%）
洗濯（20%）
仕事（10%）
│
▼
「散歩」を選択
│
▼
次の単語を予測
これを何十回、何百回と繰り返すことで、
長い文章を生成しているようです。
実際のイメージ
例えば、
という流れになります。
なぜ自然な文章になるの？
疑問だったのが、
なんでこんなに自然な文章になるの？
ということでした。
調べてみると、
LLMはインターネット上の膨大な文章を学習しているため、
「おはようございます」
↓
「こんにちは」
↓
「こんばんは」
のような、
人間がよく使う言葉のパターンを学習しているようです。
そのため、
自然な文章を生成できるとのことでした。
Transformerとは？
LLMについて調べると、
必ず出てくるのが、
Transformer
です。
これは、
2017年に発表されたAIモデルで、
現在のChatGPTやGeminiのベースになっているそうです。
Transformer
↓
GPT
↓
ChatGPT
最近の生成AIの多くは、
Transformerを利用しているようです。
GPTって何？
GPTは、
Generative Pre-trained Transformer
の略です。
それぞれ、
| 単語 | 意味 |
|---|---|
| Generative | 生成する |
| Pre-trained | 事前学習済み |
| Transformer | AIモデル |
つまり、
「事前学習された文章生成AI」
という意味になります。
ChatGPTの全体像
調べた内容をまとめると、
大量の文章
↓
深層学習
↓
Transformer
↓
GPT
↓
ChatGPT
という流れになります。
ここまで学ぶことで、
少しずつAIの仕組みがつながってきました。
LLMはどこで使われている？
LLMは、
ChatGPT以外にも利用されています。
| 用途 | 例 |
|---|---|
| チャット | ChatGPT |
| 検索 | Gemini |
| 要約 | Claude |
| コード生成 | Copilot |
| 翻訳 | DeepL |
| 社内AI | 企業独自LLM |
最近では、
企業が独自のLLMを構築するケースも増えているようです。
調べてみて感じたこと
最初は、
「LLM＝難しい技術」
という印象でした。
しかし、
調べてみると、
「次に来る単語を予測し続けている」
というシンプルな考え方であることが分かりました。
もちろん、
実際には数千億〜数兆規模のパラメータを持つ非常に複雑なモデルですが、
考え方としては、
「次の単語当てゲーム」
に近いのかもしれません。
個人的な学習メモ
今のところ、
次の順番で学ぶと良さそうだと思っています。
統計学
↓
機械学習
↓
深層学習
↓
生成AI
↓
LLM
↓
RAG
↓
AIエージェント
最近は、
RAG（Retrieval-Augmented Generation）という言葉もよく見かけるので、
次はそこを調べてみたいと思います。
まとめ
今回は、
LLM（大規模言語モデル）について調べてみて分かったことをまとめてみました。
現時点では、
私自身もまだ勉強中ですが、
「大量の文章から次の単語を予測する仕組み」
ということが分かりました。
今回調べてみて分かったこと
- LLMはLarge Language Modelの略
- ChatGPTはLLMを利用したサービス
- 次の単語を予測して文章を生成している
- Transformerがベース技術
- GPTはGenerative Pre-trained Transformerの略
- GeminiやClaudeもLLMを利用している
少しずつですが、
統計学からChatGPTまでの流れがつながってきた気がしています。
次回は、
「RAG（Retrieval-Augmented Generation）とは？生成AIはなぜ最新情報を知らないのか？」
について調べてみたいと思います。