はじめに
ディープラーニングや機械学習のモデルは、非常に高い精度を誇る一方で、「なぜその予測を出したのか」が人間には分からない（ブラックボックス化） という大きな課題を抱えています。AIが社会の重要な意思決定に関わるようになるにつれ、「AIの判断理由を人間が納得できるように説明する」ことの重要性が増しています。
本記事では、このブラックボックスの中身を人間にわかりやすく説明するための技術 「XAI（Explainable AI：説明可能なAI）」 について整理しました。
1. CAM (Class Activation Mapping)
一言でいうと：画像の「どこ」を見て判断したかを可視化する技術
主にCNN（畳み込みニューラルネットワーク）を用いた画像認識モデルで使われます。AIが「この画像は〇〇だ」と判定した際、画像のどの部分がその決定的な要因になったかを、サーモグラフィのようなヒートマップで赤く表示します。より汎用性を高めた「Grad-CAM」という発展手法も有名です。
📌 具体例：ネコの画像判定
AIが「これは99%ネコです」と判定した画像にCAMを適用すると、ネコの 「ピンと立った耳」や「ヒゲ」 の部分が真っ赤に光ります。「背景のキャットタワー」などではなく、きちんとネコの特徴を捉えていることが一目で確認できます。
2. PI (Permutation Importance / 順列特徴量重要度)
一言でいうと：データをわざとシャッフルして、項目の重要度を測る技術
予測において、どのデータ（特徴量）が重要だったのかを確認する手法です。特定の特徴量の並び順だけをランダムにシャッフル（Permutation）し、わざとデタラメにします。その結果、モデルの予測精度が大きく下がれば「その項目は非常に重要だった」、精度が変わらなければ「あまり重要ではなかった」と判断します。モデルの種類を問わずに手軽に使えるのが特徴です。
📌 具体例：マンションの家賃予測
「駅からの距離」のデータを全員分シャッフルすると、AIの家賃予測がメチャクチャに外れるようになりました。これにより「駅からの距離は予測に不可欠なデータだ」とわかります。逆に「窓の数」をシャッフルしても精度が下がらなければ、「窓の数は家賃予測にあまり影響しない」と判断できます。
3. LIME (Local Interpretable Model-agnostic Explanations)
一言でいうと：複雑なAIの判断を、局所的にシンプルなモデルに置き換えて説明する技術
複雑なモデル全体をひとつのルールで説明するのは不可能です。そこでLIMEは、「ある特定のデータ1件（局所：Local）」 とその周辺にだけ着目します。周辺に似たダミーデータをいくつか生成し、線形回帰などの「人間が理解しやすいシンプルなモデル」で近似することで理由を説明します。「Model-agnostic」とは「モデルに依存しない」という意味です。
📌 具体例：犬の画像認識AIの判断理由
AIが「犬」と予測した特定の画像（例えば95%の確率で犬）の判断理由を探ります。LIMEは、その犬画像の一部を隠したり（摂動させたり）して、多数の「似たような画像」を作成し、ブラックボックスAIモデル（例：ディープラーニング）にもう一度予測させます。その結果を元に、元の点に近いデータほど高く重み付けして解釈可能な単純モデル（線形回帰や決定木）で近似します。最終的に、画像の中の『犬の顔や体の特定の重要な箇所』 が「犬」と判定した決定打であることを、ヒートマップや重要度グラフとして可視化して説明してくれます。
4. SHAP (SHapley Additive exPlanations)
一言でいうと：協力ゲーム理論を使って、各項目の「貢献度」を公平に算出する技術
経済学などで使われる 「協力ゲーム理論」の「シャープレイ値（Shapley value）」 を応用しています。AIの予測結果に対して、「どの特徴量が、プラス（またはマイナス）にどれくらい貢献したか」を数値化して説明します。LIMEと同じくモデルに依存せず、全体的な傾向分析にも個別データの分析にも使える強力な手法です。
📌 具体例：カフェの1日の売上予測
カフェの平均売上は10万円ですが、AIは明日の売上を「15万円」と予測しました。SHAPを使うと、その＋5万円のズレの理由をキッチリ割り勘してくれます。
- 「明日は休日である」： ＋4万円
- 「明日は晴れである」： ＋2万円
- 「近くで工事の騒音がある」： －1万円
このように、各要因の足し算・引き算を金額（数値）として明確に説明できます。
💡 おさらい・比較表
各手法の要点とキーワードをまとめました。
| 手法名 | 仕組みの要点 | G検定キーワード |
|---|---|---|
| CAM | 画像のどこを重視したかをヒートマップ化 | CNN、ヒートマップ、Grad-CAM |
| PI | 特徴量をシャッフルし、精度の低下度合いを見る | シャッフル、精度低下、特徴量の重要度 |
| LIME | 特定データの周辺を、シンプルなモデルで近似 | 局所的（Local）、モデル非依存 |
| SHAP | ゲーム理論を応用し、特徴量の貢献度を配分 | 協力ゲーム理論、シャープレイ値 |
おわりに
XAI（説明可能なAI）は、AIがビジネスや医療、金融といったクリティカルな分野で安全かつ信頼して使われるために、必要不可欠な技術となっています。
「どうやってAIの思考を人間に翻訳しようとしているか」という各手法のアプローチの違いをイメージで掴んでおくと、記憶に定着しやすくなるなと感じました。