損失関数、評価関数について

• 損失関数（Loss function）

図1:損失関数のイメージ

出典：[https://atmarkit.itmedia.co.jp/ait/articles/2104/15/news030.html]

• モデルの学習時に、正解値とモデルによって出力された予測値とのズレの大きさ（これを「Loss：損失」と呼ぶ）を計算するための関数である。

• この損失の値を最小化／最大化することで、機械学習モデルを最適化する。

• ニューラルネットワークでは、損失関数は誤差逆伝播法（Back-propagation）と呼ばれる最適化の処理で用いられる

• 損失関数には様々なものがあり、予測する問題や用いるモデル、パラメータの求め方などによって用いる損失関数は変わってくる

  • 平均二乗誤差 / Mean Squared Error(回帰)
  • 平均絶対誤差 / Mean Absolute Error(回帰)
  • 平均二乗対数誤差 / Mean Squared Logarithmic Error(回帰)
  • 交差エントロピー誤差 / cross entropy error(分類)

• 評価関数（Evaluation function）

図1:評価関数のイメージ

出典：[https://zenn.dev/nekoallergy/articles/machinelearning-func]

• モデルの評価時に、モデルが出した【予測値】と実際の【正解値】がどれくらいズレているのかを計算するための関数

• 作った AI モデルが、どれくらい良い AI モデルなのかを評価するために使う

• 評価関数には様々なものがあり、予測する問題や用いるモデル、パラメータの求め方などによって変わってくる
  
  
  回帰問題

  • 平均絶対誤差（MAE：Mean Absolute Error）
  • 平均二乗誤差（MSE：Mean Squared Error）
  • 平均二乗誤差の平方根（RMSE：Root Mean Squared Error）
  • 平均二乗対数誤差（MSLE：Mean Squared Logarithmic Error）
  • 平均二乗対数誤差の平方根（RMSLE：Root Mean Squared Logarithmic Error）
  • 平均絶対パーセント誤差（MAPE：Mean Absolute Percentage Error）
  • 平均二乗パーセント誤差の平方根（RMSPE：Root Mean Squared Percentage Error）

  二値分類問題

  • 正解率（Binary Accuracy）
  • 適合率（Precision）
  • 再現率（Recall）／感度（Sensitivity）
  • 特異度（Specificity）
  • F値（F-measure、F-score）／F1スコア（F1-score）
  • 重み付きF値（Weighted F-measure）／Fβスコア（Fβ-score）
  • LogLoss（Binary Logarithmic Loss）
  • AUC（Area Under the ROC curve、ROC曲線のAUC）
  • PR-AUC（Area Under the Precision-Recall curve、AUC-PR）／AP（Average Precision）

  多クラス分類問題

  • 正解率（Multi-class Accuracy）
  • LogLoss（Multi-class Logarthimic Loss）

参考サイト

https://atmarkit.itmedia.co.jp/ait/articles/2104/15/news030.html

https://amateur-engineer-blog.com/machine-learning-metrics/
https://atmarkit.itmedia.co.jp/ait/articles/2104/22/news022.html