はじめに

前回は、

「生成AIとは？ChatGPTやGeminiは何がすごいのか？」

について調べてみた内容をまとめました。

生成AIについて調べていると、

ChatGPT
Gemini
Claude
Copilot

など、さまざまなサービスが登場します。

しかし、それらの説明を見ていると、

「LLM（Large Language Model）」

という単語が必ず出てきます。

正直なところ、

「LLMって何？」

「どうやって文章を作っているの？」

という状態でした。

そこで今回は、

LLM（大規模言語モデル）について調べてみて分かったこと

を、自分自身の整理も兼ねてまとめてみたいと思います。

この記事はこんな方におすすめ

ChatGPTを普段利用している方
LLMという言葉を初めて聞いた方
AIや生成AIに興味がある方
データサイエンティストを目指している方
私と同じく「LLMって何？」という方

結論

調べてみて感じたのは、

「大量の文章を学習して、次に来る単語を予測する仕組み」

ということです。

例えば、

今日はいい天気なので、

という文章が入力されると、

散歩に行きます。

洗濯をします。

公園に行きます。

など、

次に続きそうな単語を予測し続けることで、文章を生成しているようです。

イメージ

LLMとは？

LLMは、

Large Language Model

の略で、日本語では、

大規模言語モデル

と呼ばれています。

名前のとおり、

Large（大規模）
Language（言語）
Model（モデル）

という意味になります。

つまり、

「大量の文章を学習した言語モデル」

ということのようです。

ChatGPTはLLMなの？

調べてみると、

厳密には、

LLM
  │
  ├─ GPT-5.5
  ├─ Gemini
  ├─ Claude
  └─ Llama
       │
       ▼
生成AIサービス
       │
       ▼
ChatGPT

というイメージのようです。

例えば、

サービス	利用しているLLM
ChatGPT	GPTシリーズ
Gemini	Gemini
Claude	Claude
Meta AI	Llama

つまり、

ChatGPTはLLMを利用したサービス

ということになります。

ChatGPTはどうやって文章を作るの？

一番気になっていたのが、

ChatGPTはどうやって文章を作っているの？

という点でした。

調べてみると、

次のような流れになっているようです。

「今日はいい天気なので、」
          │
          ▼
「次は何だろう？」
          │
          ▼
散歩（70%）

洗濯（20%）

仕事（10%）
          │
          ▼
「散歩」を選択
          │
          ▼
次の単語を予測

これを何十回、何百回と繰り返すことで、

長い文章を生成しているようです。

実際のイメージ

例えば、

という流れになります。

なぜ自然な文章になるの？

疑問だったのが、

なんでこんなに自然な文章になるの？

ということでした。

調べてみると、

LLMはインターネット上の膨大な文章を学習しているため、

「おはようございます」

↓

「こんにちは」

↓

「こんばんは」

のような、

人間がよく使う言葉のパターンを学習しているようです。

そのため、

自然な文章を生成できるとのことでした。

Transformerとは？

LLMについて調べると、

必ず出てくるのが、

Transformer

です。

これは、

2017年に発表されたAIモデルで、

現在のChatGPTやGeminiのベースになっているそうです。

Transformer

↓

GPT

↓

ChatGPT

最近の生成AIの多くは、

Transformerを利用しているようです。

GPTって何？

GPTは、

Generative Pre-trained Transformer

の略です。

それぞれ、

単語	意味
Generative	生成する
Pre-trained	事前学習済み
Transformer	AIモデル

つまり、

「事前学習された文章生成AI」

という意味になります。

ChatGPTの全体像

調べた内容をまとめると、

大量の文章

↓

深層学習

↓

Transformer

↓

GPT

↓

ChatGPT

という流れになります。

ここまで学ぶことで、

少しずつAIの仕組みがつながってきました。

LLMはどこで使われている？

LLMは、

ChatGPT以外にも利用されています。

用途	例
チャット	ChatGPT
検索	Gemini
要約	Claude
コード生成	Copilot
翻訳	DeepL
社内AI	企業独自LLM

最近では、

企業が独自のLLMを構築するケースも増えているようです。

調べてみて感じたこと

最初は、

「LLM＝難しい技術」

という印象でした。

しかし、

調べてみると、

「次に来る単語を予測し続けている」

というシンプルな考え方であることが分かりました。

もちろん、

実際には数千億〜数兆規模のパラメータを持つ非常に複雑なモデルですが、

考え方としては、

「次の単語当てゲーム」

に近いのかもしれません。

個人的な学習メモ

今のところ、

次の順番で学ぶと良さそうだと思っています。

統計学

↓

機械学習

↓

深層学習

↓

生成AI

↓

LLM

↓

RAG

↓

AIエージェント

最近は、

RAG（Retrieval-Augmented Generation）という言葉もよく見かけるので、

次はそこを調べてみたいと思います。

まとめ

今回は、

LLM（大規模言語モデル）について調べてみて分かったことをまとめてみました。

現時点では、

私自身もまだ勉強中ですが、

「大量の文章から次の単語を予測する仕組み」

ということが分かりました。

今回調べてみて分かったこと

LLMはLarge Language Modelの略
ChatGPTはLLMを利用したサービス
次の単語を予測して文章を生成している
Transformerがベース技術
GPTはGenerative Pre-trained Transformerの略
GeminiやClaudeもLLMを利用している

少しずつですが、

統計学からChatGPTまでの流れがつながってきた気がしています。

次回は、

「RAG（Retrieval-Augmented Generation）とは？生成AIはなぜ最新情報を知らないのか？」

について調べてみたいと思います。