myscratchpad

最尤法、最尤推定
母数の分布はわかっており、母数が未知であるときに、標本データから母数を推定する手法


L = p^x(1-p)^(n-x)

pは母集団比率、nはサンプリング数、xはデータ数、Lは確率
p^xはそのデータが得られる確率を示し、これに得られない確率(1-p)^(n-x)をかける

pは母集団比率であるが、これを確率変数とみなすと
pが0.001であるとき標本データが得られる確率、0.002であるときの…というふうに変動させることができる
この中で、標本データが得られる確率の最も高いものを、母数 (母集団比率) とみなす。
のが最尤法。ホンマか嘘かはわからんが、たぶん一番もっともらしい値を確率的に定義する

自然対数をとって微分するとpは容易に求められる


すなわち、p^x (および(1-p)^(n-x)) のように、あるデータが得られる確率を規定できれば最尤推定が可能になる。
これが確率モデルと呼ばれるもので、事象が得られる (変動する) 確率を尤度 (もっともらしさ) といい、
標本データより算出された尤度の最も高いものを最尤推定値という

因子分析では、標本共分散行列の確率密度がウィッシャート分布に従うので、これと
因子分析モデル (係数x因子+独自因子) の確率変数との差を最小化することにより
特定の因子数モデルの尤度を最大化する