最大事後確率(さいだいじごかくりつ、: maximum a posteriori, MAP推定は、統計学において、実測データに基づいて未知の量の点推定を行う手法である。ロナルド・フィッシャー最尤推定 (MLE) に密接に関連するが、推定したい量の事前分布を利用して最適化問題を解き確率が最大の結果を得る。したがってMAP推定は、最尤推定に正則化をつけた物と見ることもできる。

概要編集

  の観測に基づいて、未知の母集団パラメータ   を推定したいとする。 標本分布  とすると、母集団パラメータを   としたときの   の確率は   となる。すると

 

という関数は尤度関数であり、

 

  の最尤推定である。

ここで、  の事前分布を   とする。すると、 ベイズ推定における確率変数として扱える。 事後確率は次のようになる。

 

ここで    の密度関数、   の定義域である。これはベイズの定理の直接的な応用である。

最大事後確率推定の手法では、次に   をこの確率変数の事後分布の最頻値として推定する。

 

事後分布の分母は   に依存していないので、最適化には何の役割も果たさない。  のMAP推定で事前分布   が一様分布の場合の結果は、最尤推定に一致する。MAP推定は、一様損失関数におけるベイズ推定関数である。

MAP推定の計算は解析的に解くか数値的に計算できる。

正規分布での例編集

ある並び   の独立な確率変数   があり、  の事前分布は   で与えられるとする。ここで   のMAP推定値を求める。

最大化すべき関数は次のようになる。

 

これの対数を取る。

 

これは、  を動かし次の式を最小化することと等価である。

 

従って   のMAP推定値は以下のようになる。

 

  の場合を無情報事前分布(: non-informative prior)と呼び、この例では   である。

  の場合は、  の事前分布の付与はL2正則化と同じ式になる。

参考文献編集

  • M. DeGroot, Optimal Statistical Decisions, McGraw-Hill, (1970).
  • Harold W. Sorenson, (1980) "Parameter Estimation: Principles and Problems", Marcel Dekker.

関連項目編集