読み込み中…
読み込み中…
統計・定理・点推定
漸近正規性とは、標本数 が大きくなると最尤推定量(MLE)の分布が正規分布に近づき、その分散がフィッシャー情報量の逆数になる、という極限定理です。これは強力で、真の分布の形が複雑でも、大標本では『最尤推定量はほぼ正規』と分かるので、そこから信頼区間や検定が機械的に作れます。
MLEの漸近正規分布。ポアソン 、 で 、
MLEは大標本で正規分布に近づき、分散はフィッシャー情報量の逆数。
漸近正規性は、最尤推定量 が大標本でしたがう分布を述べた極限定理です。正則条件のもとで、標本サイズ が大きくなると
極限定理の形
正則条件下で
から の標本で
最尤推定量の漸近正規性の極限分布として正しいのは?
ポアソン ()のときの最尤推定量の標準誤差SEは?
漸近正規性から作る95%信頼区間の形は?
この結果がなぜ実務で決定的かというと、信頼区間がそのまま作れるからです。 という近似分布の標準偏差(標準誤差)は です。真の は未知なので推定値 を代入した を使い、 信頼区間は で与えられます。正規分布の上側 点 (95%なら )を使うだけで区間が出るのは、まさに最尤推定量が漸近的に正規だからです。
同じ近似からWald検定統計量も導かれます。帰無仮説 を検定したいとき、 が漸近的に にしたがうことを使い、標準化した を検定統計量とします。 のもとで は近似的に標準正規 にしたがうので、 なら棄却します。信頼区間とWald検定は表裏一体で、どちらも『最尤推定量は大標本で正規・分散は情報量の逆数』という1つの定理から出てきます。注意点として、これは漸近的(大標本)の話であり、 が小さいときや正則条件が崩れるとき(非正則モデル)には成り立たないので、近似の質は標本サイズに依存します。
標準誤差
。未知の は推定値 を代入して使う。
信頼区間が直接出る
。95%なら 。正規近似なので 点で区間が作れる。
Wald検定
が で近似的に 。 で棄却。
大標本でのみ有効
漸近的な結果。 が小さい・正則条件が崩れる非正則モデルでは成り立たない。近似の質は に依存。
MLE以外の統計量にも成り立つ
漸近正規性はMLEに限らず、一定条件を満たす統計量一般に成り立つ。正規母集団の標本中央値も、順序統計量の密度関数から導くとと漸近正規になる(2018年度問題3(2)(3))。ただし標本平均を同様に標準化した極限分布の分散より中央値の漸近分散の方が大きいため、中央値は漸近正規性は満たすが漸近有効性(漸近的に分散最小)は満たさない。
ポアソンの情報量は ( の期待値の負 )。
。95%CI 。