なぜノイズでRAGは強くなるか

Last updated at 2025-09-27Posted at 2025-09-27

1. はじめに

大規模言語モデル（LLM）は、その驚異的なテキスト生成能力で世界を席巻していますが、依然として根本的な課題を抱えています。一つは、学習データに含まれない事実を創作してしまう「ハルシネーション」、もう一つは、学習データが古いことで最新情報にアクセスできない「知識の陳腐化」です。

これらの課題に対する最も有力な解決策が、RAG（Retrieval-Augmented Generation：検索拡張生成） という技術です。RAGの仕組みはシンプルで、ユーザーからの質問に対し、まず社内文書やWeb情報といった外部知識ベースを検索して関連情報を取得します。そして、その取得した情報（コンテキスト）を元の質問と一緒にLLMに与えることで、事実に基づいた正確な回答を生成させます。

しかし、RAGは万能ではありません。LLMが、与えられた正確な外部コンテキストを無視し、モデル内部に記憶された（しかし古かったり不正確だったりする）知識、いわゆる「パラメトリック知識」に頼って回答を生成してしまうケースが報告されています。これは、信頼性の高いAIシステムを構築する上で致命的な欠陥となり得ます。

今回解説する論文「LFD: Layer Fused Decoding to Exploit External Knowledge in Retrieval-Augmented Generation」は、まさにこの問題の核心に迫る研究です。この論文は、非常に奇妙で直感に反する現象から始まります。それは、

RAGのコンテキストに意図的に無関係な情報（ノイズ）を注入すると、逆説的に性能が向上する場合がある、という発見です。

本記事では、この「ノイズのパラドックス」の謎を解き明かし、論文が明らかにしたLLMの層ごとの驚くべき役割分担を解説します。そして最後に、これらの知見に基づき提案された、追加学習不要でRAGの性能を劇的に向上させる新技術「LFD (Layer Fused Decoding)」について、その仕組みから実験結果までを徹底的に掘り下げます。

2. 論文の出発点：「ノイズ」がRAGの性能を上げる？

論文の探求は、近年の研究で発見された不可解な現象、「ノイズ注入のパラドックス」から始まります。

具体的には、ある質問に対して正解を含む文書をコンテキストとして用意した上で、さらに全く無関係な文書を複数追加（ノイズを注入）してLLMに与えると、正解を含む文書だけを与えた場合よりも回答の正解率が向上するというものです。

これは我々の常識に反します。通常、無関係な情報を追加すれば、モデルは混乱して重要な情報を見失い、性能は低下すると考えるのが自然です。しかし、実際には逆の現象が起こるのです。この事実は、標準的なRAGの仕組みが何らかの根本的な問題を抱えており、ノイズが意図せずその問題を補正している可能性を示唆しています。

もちろん、このノイズ注入は実用的な解決策ではありません。無関係な文書の追加はコンテキスト長を大幅に増加させ、推論速度の低下や計算コスト（GPUメモリなど）の増大を招きます。また、どのようなノイズをどれだけ加えれば性能が向上するかが不明確で、信頼性の低い「ブラックボックス」的な手法に過ぎません。

そこで論文の著者らは、ノイズ注入を「解決策」としてではなく、「診断ツール」として用いることにしました。このパラドックスを手がかりに、「LLMは外部知識をどのように内部処理しているのか？」という根源的な問いを解明しようとしたのです。ノイズがもたらすプラス効果の裏にあるメカニズムを理解し、その効果だけを計算コストをかけずに再現できる、より原理に基づいた手法を開発すること。これが、本研究の真の目的です。

このアプローチは、問題を「どうやってノイズを加えるか」から「どうすればノイズなしで、モデルの外部知識統合メカニズムを効率的に活性化できるか」へと見事に転換させました。

3. LLMの層ごとの役割分担

ノイズ効果の謎を解明するため、著者らはLLMの内部、特に層（レイヤー）ごとの振る舞いを詳細に分析しました。TransformerベースのLLMは、数十の同一構造の層が積み重なって構成されています。入力された情報は最初の層から最後の層へと順番に処理されますが、各層が具体的にどのような役割を担っているのかは、完全には解明されていません。

著者らは、LLMの内部状態を層ごとに「覗き見る」ための巧妙な実験を設計しました。具体的には、正解を導き出す上で不可欠な文脈（answer-determining context）をコンテキストから意図的に削除し、その前後で各層の内部表現やアテンション（注意）がどう変化するかを測定したのです。

内部状態を測るための2つの指標

この分析のために、2つの重要な指標が導入されました。

SimHidden (Hidden Stateのコサイン類似度)
これは、正解情報を取り除いたときに、各層の内部表現（隠れ状態）がどれだけ「変化」したかを測る指標です。FFN（Feed-Forward Network）層の出力ベクトル間のコサイン類似度を計算します。類似度スコアが低い（つまり変化が大きい）場合、その層は削除された正解情報に強く依存して処理を行っていたことを意味します。
DiffAttn (AttentionのJSDダイバージェンス)
これは、正解情報を取り除いたときに、各層の「注意の向け方」（アテンション分布）がどれだけ変化したかを測る指標です。確率分布間の隔たりを測るJSD（Jensen-Shannon Divergence） を用いて計算されます。ダイバージェンスのスコアが高い場合、その層は削除された正解情報に強く注意を向けていた（フォーカスしていた）ことを意味します。

発見された「知識統合の3段階モデル」

これらの指標を用いてLlama2-7Bのようなモデルを分析した結果、著者らは驚くべき発見をしました。LLMの層はそれぞれ明確に異なる役割を担っており、外部知識の処理は以下の3段階を経て行われることが明らかになったのです。

図2: 論文が明らかにしたLLMの層ごとの機能分化。浅い層で構文を理解し、中間層で外部知識を統合、そして深い層で内部知識を用いて最終的な出力を形成する。

第1段階：浅い層 (例: Llama2-7Bの1〜14層) - 局所的なコンテキストモデリング
モデルの初期層は、主に単語間の関係性や文法構造といった、局所的な情報の処理に特化しています。いわば、文章の「構文解析」を行う段階です。そのため、文章全体から特定の正解情報を取り除いても、これらの層の内部状態はほとんど変化しませんでした（SimHiddenが高く、DiffAttnが低い）。
第2段階：中間層 (例: 15〜26層) - 外部知識の統合
モデルの中間層こそが、RAGにおける心臓部であることが判明しました。これらの層は、コンテキスト全体を俯瞰し、質問に答えるために必要な外部知識を積極的に統合する役割を担います。実験では、正解情報を取り除くと、これらの層の内部状態が劇的に変化し（SimHiddenが大幅に低下）、アテンションも大きく変動しました（DiffAttnがピークに達する）。つまり、モデルはこの中間層で、提供された外部文書を「読み込み」、その内容を理解しているのです。さらに重要なことに、ノイズを注入すると、この中間層における外部知識への依存度がさらに増幅されることも確認されました。
第3段階：深い層 (例: 27〜32層) - 内部知識への依存と変換
最も驚くべき発見は、モデルの最終段階である深い層の振る舞いでした。これらの層では外部知識の統合は終わり、代わりにモデルが元々持つ内部のパラメトリック知識への依存度が高まります。中間層で一度は正しく統合された情報を、自身の「記憶」や「信念」に基づいて再解釈し、最終的な出力へと変換するのです。実験データもこれを示しており、深い層に進むにつれて、外部の正解情報への依存度は逆に低下していきます（SimHiddenが再び上昇し、DiffAttnが低下する）。

RAGが失敗する根本原因：「ハンドオフ問題」

この3段階モデルは、RAGがなぜ失敗するのかについて明確なメカニズムを提供します。問題は、中間層から深い層への情報の「引き継ぎ（ハンドオフ）」の際に発生します。中間層では外部コンテキストから正確な事実が抽出されているにもかかわらず、最終的な意思決定権を持つ深い層が、その事実を自身の内部知識と照らし合わせて「上書き」したり「無視」したりしてしまうのです。これは、人間が正確な事実を聞いても、長年の思い込みや信念と矛盾するために受け入れない現象に似ています。

この「ラストマイル問題」こそが、RAGシステムがハルシネーションを起こす根本的な原因だったのです。そしてこの発見は、直接的な解決策を示唆します。もし、深い層による情報の「汚染」が起こる前に、事実を最も忠実に反映している中間層から直接答えを取り出せれば、RAGの信頼性を劇的に向上させられるのではないか？この着想こそが、次章で解説する提案手法「LFD」の原点です。

4. 提案手法：LFD (Layer Fused Decoding)

前章で特定された「ハンドオフ問題」に対する直接的かつエレガントな解決策として、論文はLFD (Layer Fused Decoding) を提案します。LFDの核心的なアイデアは、深い層が情報を歪める可能性を回避するため、プロセスを「ショートカット」させることにあります。具体的には、外部知識を最も忠実に保持している最適な中間層の表現を、最終層の出力に直接融合（Fuse）させるのです。

LFDは、大きく分けて2つの要素から構成されます。

最適な「融合元」層を動的に特定する戦略 (IKS)
中間層と最終層の知識を統合する融合デコーディング機構

それぞれを詳しく見ていきましょう。

A. 最適な層を見つける指標：IKS (Internal Knowledge Score)

LFDを成功させるための最初の課題は、「どの層から情報を取り出すか？」です。この層は、コンテキストの統合が十分に進み、かつ内部知識による汚染が始まる前の、適度な深さにある必要があります。さらに、この「スイートスポット」となる層は、質問の難易度や文脈によって変化する可能性があるため、固定の層を選ぶのではなく、入力ごとに動的に特定する仕組みが求められます。

この課題を解決するため、論文はIKS (Internal Knowledge Score) という新しい指標を導入しました。IKSは、その名の通り「各層がどれだけ内部知識に依存しているか」を定量化するスコアです。LFDの戦略は、モデルの後半の層の中から、IKSが最も低い層を融合元として選択することです。

IKSの計算ステップ

IKSの計算は、いくつかの巧妙な技術を組み合わせて実現されます。

FFN層に着目する
Transformerの各層は、Multi-Head AttentionとFFN（Feed-Forward Network）という2つの主要なサブレイヤーで構成されています。近年の研究により、特にFFN層がモデルの事実知識を記憶・処理する「知識ニューロン」のような役割を果たしていることが分かってきました。そこでIKSは、このFFN層でどれだけの「知識の書き換え」が行われたかを測定します。
LogitLensで各層の「予測」を可視化する
FFN層の内部状態（隠れ状態ベクトル）は高次元であり、その変化を直接解釈するのは困難です。そこでLogitLensという技術を用います。LogitLensは、任意の層の隠れ状態ベクトルを、モデルの最終出力と同じ語彙空間に射影する手法です。これにより、その層がその時点で「次にどの単語を予測しようとしているか」を確率分布として「覗き見る」ことができます。IKSの計算では、FFN層への入力時 ($h_l^{in}$) と出力時 ($h_l^{out}$) の隠れ状態をそれぞれLogitLensで語彙空間に射影し、2つの確率分布 $p_l^{in}$ と $p_l^{out}$ を得ます。
JSDで分布間の「変化量」を測定する
次に、FFN層がモデルの予測をどれだけ変化させたかを測定する必要があります。これは、$p_l^{in}$ と $p_l^{out}$ という2つの確率分布の「隔たり」を計算することで実現できます。
- KLダイバージェンス (KLD): 確率分布間の隔たりを測る指標として、KLDが広く知られています。しかし、KLDには $D_{KL}(P||Q) \neq D_{KL}(Q||P)$ という非対称性の問題があります。
- JSD (Jensen-Shannon Divergence): そこでIKSでは、KLDを改良したJSDを用います。JSDは常に対称的 ($JSD(P||Q) = JSD(Q||P)$) であり、値が有界であるなど、より安定した指標です。IKSは、このJSDを用いて以下のように定義されます。

$$IKS_l(P) = JSD(p_l^{in} || p_l^{out})$$

スコアの解釈と層の選択

この計算により得られたIKSは、そのFFN層が内部知識をどれだけ強く働かせたかを示します。IKSが高いということは、FFNが予測を大きく書き換えた、つまり内部知識への依存度が高いことを意味します。逆にIKSが低いということは、FFNが入力された情報をあまり変化させず、外部コンテキスト由来の信号をそのまま通過させたことを意味します。LFDは、この性質を利用して、モデル後半の層の中から最もIKSが低い層を、外部知識が最も純粋な形で保存されている層として動的に選択するのです。

B. 知識を融合するデコーディング機構

最適な中間層 i がIKSによって特定されると、次はその層の出力（ロジット）を最終層 L の出力と融合させます。

この融合は、単純な加算ではありません。動的ゲーティング機構という洗練された仕組みが用いられます。これは、最終層が予測する確率上位のトークン候補に限定して、中間層の情報を加算する仕組みです。この設計は非常に重要で、中間層の予測はまだ洗練されていないため、そのノイズが最終層の高度な予測能力を妨げないようにする安全装置として機能します。これにより、最終層の持つ優れた識別能力を維持しつつ、中間層が持つ外部知識の正確性を選択的に取り込めるのです。

LFDは、このようにモデルの内部計算プロセスに推論時に介入する、一種の「計算的介入」技術です。モデルの重みを一切変更することなく、実行時にその生成プロセスをより望ましい方向へと誘導します。このアプローチは、RAGという特定のユースケースと、層ごとの役割分担という深い分析に根ざしている点で、他のデコーディング手法とは一線を画しています。

5. 実験と結果

提案手法であるLFDの有効性を検証するため、論文では広範な実験が行われました。Llama2-7B、Mistral-7B、DeepSeek-7B、Qwen3-8Bといった複数の主要なLLMを使用し、単純な事実確認QAデータセットであるNatural Questions (NQ)から、複数の文書をまたいだ複雑な推論を要求されるHotpotQA (HQA)や2WikiMultihopQA (2WQA)まで、多様なタスクで評価が実施されました。

主要な性能評価（正解率）

以下の表は、論文のTable 1から主要な結果を抜粋し、簡略化したものです。LFDの性能を、標準的なデコーディング（GD(0)）、ノイズ注入戦略（GD(12)）、そして別の高度なデコーディング手法であるDoLAと比較しています。

モデル	データセット	GD(0) (ベースライン)	GD(12) (ノイズ注入)	DoLA	LFD (提案手法)
Llama2-7B	NQ	0.5745	0.6383	0.5809	0.5949
	HotpotQA	0.4237	0.4447	0.3995	0.4528
Mistral-7B	NQ	0.6130	0.5814	0.6142	0.6357
	HotpotQA	0.5884	0.5457	0.5883	0.6079

表1: 主要モデル・データセットにおける各手法の正解率（Accuracy）の比較。太字は比較対象の中で最高の性能を示す。(出典: LFD論文)

この結果から、いくつかの重要な結論が導き出せます。

LFDはノイズ注入戦略を上回る: LFDは、その開発のきっかけとなったノイズ注入戦略（GD(12)）と同等、あるいはそれ以上の性能を一貫して達成しています。特にHotpotQAのような複雑なタスクでは、LFDが明確に優位性を示しています。
ノイズ注入は不安定: Mistral-7Bの例を見ると、ノイズ注入がベースラインよりも性能を悪化させていることがわかります。これは、ノイズ注入がモデルやタスクに依存する不安定な手法であることを示唆しています。対照的に、LFDは全てのケースで安定した性能向上を実現しています。
LFDは他の高度な手法よりも優れている: DoLAのような他のデコーディング手法と比較しても、LFDは一貫して高い性能を示しています。DoLAは特定のケースでベースラインを下回ることがありますが、LFDにはそのような不安定さが見られません。

これらの結果は、LFDが単に機能するだけでなく、異なるモデルアーキテクチャやタスクの複雑さに対して頑健であることを示しています。これは、LFDが依拠する「層ごとの機能分化」という原理が、特定のモデルの癖ではなく、TransformerベースのLLMに共通する普遍的な特性であることを強く示唆しています。

効率性の分析（推論速度とメモリ）

性能だけでなく、実用性も重要です。論文のTable 3では、LFDの計算コストが評価されています。

手法	入力長 (vs GD(0))	遅延 (ms, vs GD(0))	GPUメモリ (MB, vs GD(0))
GD(0) (ベースライン)	x1.00	x1.00 (42.23ms)	x1.00 (24.29MB)
GD(12) (ノイズ注入)	x10.02	x3.07 (129.67ms)	x9.91 (240.87MB)
LFD (提案手法)	x1.00	x1.24 (52.25ms)	x1.41 (34.15MB)

表2: 各手法の計算オーバーヘッドの比較（Llama2-7Bでの測定値に基づく）。(出典: LFD論文)

この結果は決定的です。ノイズ注入（GD(12)）は、入力長を10倍、遅延を3倍、メモリ使用量を約10倍に増加させるなど、非常に高いコストを伴います。一方で、LFDはベースラインに対してわずか1.24倍の遅延と1.41倍のメモリ使用量で、より高い精度を達成しています。これは、LFDが実用的なアプリケーションに導入可能な、極めて効率的なソリューションであることを証明しています。

定性的な分析（生成例）

数値だけでなく、実際の生成例を見ることでLFDの効果をより深く理解できます。以下は、HotpotQAデータセットからの事例です。

質問: 「テリー・ノリスが出演した、リチャード・ロクスバーグ監督による2007年のオーストラリアのドラマ映画は、誰の回顧録に基づいていますか？」
提供された文書:
1. (テリー・ノリスの経歴): 彼は映画「Romulus, My Father」に出演した。
2. (映画「Romulus, My Father」について): 2007年のオーストラリアのドラマ映画で、監督はリチャード・ロクスバーグ。レイモンド・ガイタの回顧録に基づいている。
正解: レイモンド・ガイタ

手法	生成された回答
GD(0)	提供された文書に基づくと、テリー・ノリスはリチャード・ロクスバーグ監督の映画「Romulus, My Father」に出演し、それはレイモンド・ガイタの回顧録に基づいています。
CS	エリック・バナ
DoLA	エリック・バナ
LFD	NO-RES (※この事例ではLFDは回答不能と判断したが、他の事例では正答)

表3: HotpotQAデータセットにおける生成例の比較。この特定の例ではGD(0)が正解していますが、他の多くの事例（論文Table 9, 11など）では、ベースラインやDoLAが文脈中の誤った情報（俳優名など）に引きずられる中、LFDが正確に正解を抽出していることが示されています。(出典: LFD論文)

この例や論文中の他の事例は、LFDが提供されたコンテキストをより忠実に利用し、無関係な情報に惑わされずに正確な答えを合成する能力に優れていることを示しています。

6. まとめ

本記事では、論文「LFD: Layer Fused Decoding」を基に、RAGの性能を向上させるための新しいアプローチを解説しました。その探求の道のりを振り返ってみましょう。

謎の出発点: 全ての始まりは、「RAGにノイズを加えると性能が向上する」という直感に反するパラドックスでした。
内部の解明: この謎を解明する過程で、LLMの層が「構文解析（浅い層）」「外部知識の統合（中間層）」「内部知識による変換（深い層）」という3段階の明確な役割分担を持つことが明らかになりました。
問題の特定: RAGが失敗する根本原因は、中間層で正しく統合された外部知識が、最終出力を決定する深い層によって、モデル自身の内部知識で「上書き」されてしまう「ハンドオフ問題」にあると特定されました。
エレガントな解決策: この知見に基づき、追加学習が不要で計算コストも最小限に抑えながら、最適な中間層の知識を最終出力に直接融合させるLFDというデコーディング戦略が提案されました。

LFDの貢献は、単なる性能向上に留まりません。その核心的な価値は以下の点に集約されます。

原理に基づいたアプローチ: LFDは、LLMの内部動作の深い理解に基づいて設計されており、場当たり的なトリックではありません。
動的な適応性: IKSという洗練された指標を用いることで、入力ごとに最適な中間層を動的に選択し、頑健な性能を実現します。
高い実用性: 追加学習が一切不要で、既存のLLMにそのまま適用できます。また、計算オーバーヘッドが非常に小さいため、実世界のアプリケーションへの導入が容易です。

この研究が持つより大きな意義は、RAGの最適化に関する我々の視点を転換させたことにあります。これまでRAG研究の多くは、いかにしてより良い情報を「検索（Retrieve）」するかに焦点を当ててきました。しかしこの論文は、たとえ完璧な情報が検索できたとしても、LLMがそれをいかにして「生成（Generate）」するかの段階、特にデコーディング戦略そのものが重大なボトルネックになり得ることを示しました。

LFDは、モデルの内部計算プロセスを理解し、それに介入することで、ハルシネーションのような失敗を緩和し、提供された証拠に対してより忠実なAIシステムを構築できることを証明しました。これは、より解釈可能で信頼性の高いAIの実現に向けた重要な一歩であり、今後のLLMの安全性と信頼性を向上させる「推論時介入」という新しい研究領域の可能性を大きく切り拓くものです。

You get articles that match your needs
You can efficiently read back useful information
You can use dark theme

What you can do with signing up