55
50

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 1 year has passed since last update.

【異常検知】マハラノビス距離を嚙み砕いて理解する (1)

Last updated at Posted at 2022-01-02

#1. はじめに

先日、井手剛さんのTwitterで注目すべき発言がありました。異常検知においてSOTAは、マハラノビス距離であるとの報告でした。素晴らしいと思いました。
*井手剛さんは、名著入門機械学習による異常検知の著者です。
ide-san.png

ということで、統計を専門的に学んでない方を対象に、このマハラノビス距離を嚙み砕いて説明したいと思います。

#2.マハラノビス距離とは
##2.1. マハラノビス先生
最初、マハラノビス先生について、お話させてください。活動時期がラマヌジャンと似ていて、なんだかインド生まれの変わった風貌を持つ天才数学者のイメージがありましたが、実写の写真を見るとかなりインテリのイメージでした。彼の功績を見ると、天才数学者であることは間違いありませんが。ケンブリッジ大学に留学した後、インドのコルカタに戻り、インド統計研究所(Indian Statistical Institute)で数理統計学の研究を続けました。
prof.Mahalanobis.jpg

マハラノビス距離については、1936年のProceedings of the National Institute of Sciences of Indiaに“On the generalized distance in statistics”のタイトルでその概念を発表しました。他の数学天才の論文と違い、ちゃんと数式を展開しながら内容も説明してくれるので、理解しやすい論文ですので、ご興味のある方は直接に読んでみてください。個人的には、このGeneralized Distanceのタイトルにマハラノビス先生の自信が見えてました。汎用的な、あらゆる分野で適用できる素晴らしい距離の概念である。という先生の主張が「Generalized」という言葉に現れたと感じました。
image.png

##2.2. マハラノビス距離

マハラノビス距離とは、多変数間の相関関係を取り入れて、既知のサンプルとの関係を明らかにする距離です。
(1) 多変数の意味は、1変数を含めた多変数を取り扱う問題に使える
(2) そして、その多変数間の相関関係を考慮した内容
(3) 既知のサンプルとの関係は、例えば品質管理において良品のデータの分布を持っている場合、それを基準に異常検知に使える基準が作れることを意味します。

よく使われるユークリッド距離とマハラノビス距離の違いを説明する図を下記に示します。
image.png
"出典:金子研究室HP@明治大学"

#3.数式の理解
マハラノビス距離dは下記の式で定義されます。
image.png

各記号の意味はこちらになります。
image.png

ここで、注目して頂きたいのは、𝛴と表記される分散・共分散行列です。英語のVariance-Covariance Matrixを直訳した言葉で、𝛴と書かれたため、合計の演算子と読み間違えらえることがありますが、中身は行列式になります。

例えば、X1,X2の2次元のデータがあるとき、このデータの分散・共分散行列は下記のように表記されます。

image.png

image.png

データが3次元の場合は、下記のようになります。

image.png
𝛴=(■(𝜎_1^2&𝜎_12&𝜎_13@𝜎_12&𝜎_2^2&𝜎_23@𝜎_13&𝜎_23&𝜎_3^3 ))

image.png

image.png

#3.1. 2次元のマハラノビス距離

image.png

ここでは、X1,X2の2次元のデータがあるとき、マハラノビス距離dの数式を解いてみたいと思います。簡単な計算でありながら、案外もその過程が説明されてなかったため、ここでご説明することにします。

まず、データのベクトルです。
image.png

次に平均のベクトルです。
image.png

分散・共分散行列です。これは前章で説明した通りです。
image.png

ここで、相関係数を下記の式のようにすると、
image.png

分散・共分散行列の逆行列を下記に表記することができる。
image.png
image.png

ここで、マハラノビス距離の式に代入する。

image.png

image.png

image.png

マハラノビス距離のルートの中の式を完成していきます。

image.png

image.png
image.png
image.png

従って、マハラノビス距離のdは、下記の式のようにスカラーになることが分かる。

image.png
image.png

#4. 次回の予定

Pythonで多次元データからマハラノビス距離を求め方を説明します。

#5. 参考資料

  1. 井出剛さんのTwitter
  2. 入門 機械学習による異常検知―Rによる実践ガイド
  3. On the generalized distance in statistics
  4. マハラノビス距離の意味を2次元の場合で理解する
  5. 異常検知 マハラノビス距離を実装してみる
  6. Maharanobis Distance at Scipy
55
50
1

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
55
50

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?