フィッシャー情報量

統計・用語・点推定

ひとことで言うと

尤度がパラメータθについてどれだけ「鋭く」変化するかを表す量です。情報量が大きいほど、データから得られる推定の精度（分散の逆数）が高くなります。

MLEの漸近分散の評価推定量の効率性（クラーメル・ラオの下限）の評価実験計画（どれだけ標本を集めれば十分か）の指標保険数理での死亡率推定の精度評価

推定の「限界精度」を理論的に示す指標で、最尤推定量の漸近的な振る舞いを理解する基礎になります。

急な対数尤度曲線（情報量大、精度高い）と緩やかな曲線（情報量小、精度低い）の比較。

I(\theta)=-E\big[\tfrac{\partial^2}{\partial\theta^2}\ln f\big]

フィッシャー情報量は、対数尤度のθについての2次微分（曲率）の期待値の符号を反転したものとして定義されます： $I(\theta)=-E\Big[\dfrac{\partial^2}{\partial\theta^2}\ln f(X;\theta)\Big]$

定義

$I(\theta)=-E[\partial^2/\partial\theta^2 \ln f(X;\theta)]$

1個あたりのフィッシャー情報量がI(θ)=4のとき、n=25個の独立標本では $I_n(\theta)=100$ 、最尤推定量の漸近分散の下限は $1/100=0.01$ 。

フィッシャー情報量が大きいことは何を意味するか？

1個あたりの情報量がI(θ)=2のとき、n=50個の独立標本の情報量は？

クラーメル・ラオの不等式が示すものは？