読み込み中…
読み込み中…
統計・用語・点推定
有効性とは、複数の不偏推定量を比べたとき『分散が小さいほうが優れている』という考え方です。どちらも平均的には当たる(不偏)なら、ばらつきが小さいほど一発の推定が信頼できます。分散が最小の不偏推定量がいわば『チャンピオン』で、これをUMVUE(一様最小分散不偏推定量)と呼びます。
で を推定。標本平均 (緑・細い)は分散
有効性は、2つ以上の不偏推定量を分散で比較する考え方です。前提として両方が不偏(不偏推定量)なら、平均二乗誤差は分散に一致するので、分散の小さいほうが総合的にも優れています。不偏推定量 について
有効性の定義
不偏推定量どうしを分散で比較し、小さいほうが有効。不偏なら なので分散比較で十分。
相対有効性(RE)
から を推定。標本平均 は不偏で
2つの不偏推定量の有効性はどう比べる?
で と標本中央値の相対有効性 は?
UMVUEとは?
不偏推定量どうしを分散(不偏なら平均二乗誤差に一致)で比較し、より小さいほうを有効という。分散最小の不偏推定量が有効推定量。
比較を数値で表すのが相対有効性(RE)です。 を基準に の形で分散比をとり、片方が他方の何倍ばらつくかを測ります。例として から を推定する2つの不偏推定量、標本平均 と 標本中央値を比べます。 は不偏で分散 。一方、正規分布の標本中央値は(漸近的に)不偏で、その漸近分散は知られた結果として です。相対有効性は となります。 の分散は中央値の約 しかなく、言い換えると のほうが約 ()効率的です。だから正規母集団では『平均は中央値よりよい推定量』なのです。
では『どこまで小さくできるか』の到達点がUMVUE(一様最小分散不偏推定量)です。すべての不偏推定量の中で、あらゆる について分散が最小になる推定量を指します。理論的な下限はクラーメル・ラオ下限(フィッシャー情報量) で与えられ、この下限を達成する不偏推定量があればそれがUMVUEです。上の例の は正規 で がちょうどCR下限に等しく、 のUMVUEになっています。UMVUEを構成する実践的な道具が十分統計量とラオ–ブラックウェルの定理で、『不偏推定量を十分統計量で条件付ければ分散が下がる』ことから、UMVUEは十分統計量の関数の中に現れます。有効性・十分統計量・フィッシャー情報量は、こうして『分散最小の不偏推定量』という1つのゴールでつながっています。
正規での平均vs中央値
、中央値の漸近分散 。 で が有効。
UMVUE
全不偏推定量中で分散が一様に最小の推定量。CR下限 を達成すればUMVUE。
十分統計量との接続
ラオ–ブラックウェルにより、UMVUEは十分統計量の関数の中に探せる(十分統計量)。
iid標本の線形結合で分散最小になるのは等ウェイト(=平均)
が独立同分布(分散が等しい)のとき、の不偏な線形結合(は不偏性から決まる定数)の中で分散を最小にするのは(等ウェイト)。2022年度問題1(5)(のラプラス型分布、)で検算すると、不偏条件のもとで分散最小は。これは「iid標本の不偏線形推定量の中では単純平均が最も有効」という一般法則の具体例。
標本中央値も(漸近的に)不偏で、その漸近分散は 。
。 は中央値より約57%効率的で、 の最良の不偏推定量。