ネイマン・ピアソンとは|定義・公式とアクチュアリー試験の関連問題 | acpass統計・定理・仮説検定
ひとことで言うと
「帰無も対立もどちらも1点だけ(単純対単純)」という最も単純な検定問題で、最も性能の良い検定はどう作ればよいか、に答える定理です。答えは「2つの仮説での尤度の比(尤度比)を計算し、それがある閾値を超えたら棄却する」というものです。
帰無仮説の密度 f(x;θ0) と対立仮説の密度 f(x;θ1) を重ねた図。尤度比 Λ(x)=f(x;θ1)/f(x;θ0)
数式で表すと
L(θ0)L(θ1)>k ⇒ H0 棄却 ネイマン・ピアソンの補題は、仮説検定の中でも最も単純な「単純帰無 H0:θ=θ0 対 単純対立 H1:θ=θ1」
試験に出る性質
適用範囲
単純帰無 H0:θ=θ0 対 単純対立 H1:θ=θ1
例で見る
X∼N(θ,1)、n=1、H0:θ=0
つまずきポイント
- 複合仮説(H1 が範囲をもつ場合)にNP補題をそのまま適用する(単純対単純限定。複合は 最強力検定・尤度比へ)
- 尤度比の分子・分母を逆にする(対立 L(θ1) が分子、帰無 L(θ0)
定着クイズ
Q3N(θ,1)、H0:θ=0 対 H1:θ=1 で尤度比 Λ(x)=exp(x−0.5) から導かれる棄却域は?
Q4MP(最強力)とUMP(一様最強力)の違いは?
Q6Xˉ∼N(θ,σ2/n) の片側検定 H1:θ>θ0 でUMPになるのは?
は
の増加関数なので、
は
と同値になり、大きい
の斜線領域で棄却する片側検定に帰着する。
単純帰無 H0:θ=θ0 対 単純対立 H1:θ=θ1 では、尤度比を閾値で棄却する検定が、与えられた有意水準のもとで検出力を最大にする(最強力)。
という設定で、与えられた有意水準
のもとで検出力を最大にする検定の作り方を教える定理です。その答えは、
を使った検定で、
L(θ0)L(θ1)>k ⇒ H0 を棄却
という形をとります。
はパラメータ
のときにそのデータが得られる尤度(もっともらしさ)、
は有意水準
を満たすように決める閾値です。この尤度比検定が、同じ
を守るどんな検定よりも検出力が高い(最強力である)、というのが補題の主張です(最強力検定)。
抽象的なので具体的に導いてみます。X∼N(θ,1) の観測が n=1 個あり、H0:θ=0 対 H1:θ=1 とします。尤度は正規密度そのものなので、尤度比は
Λ(x)=f(x;0)f(x;1)=exp(−x2/2)exp(−(x−1)2/2)=exp(x−0.5)
となります。これは x の増加関数です。したがって Λ(x)>k という棄却条件は、両辺の対数をとれば x>c という単純な条件と同値になります。つまりネイマン・ピアソン検定は、この場合「観測した x が大きいときに棄却する」という見慣れた片側のz検定にそのまま帰着するのです。閾値 c は、H0 のもとで P(X>c)=α となるように決めます。
この補題が効くのは「単純対単純」に限られます。実務では対立仮説が範囲をもつ複合仮説のことが多く、その場合「対立側の尤度 L(θ1)」の θ1 が1つに定まりません。複合の場合にどう一般化するかは 最強力検定(UMPの存在条件)や 尤度比(一般化尤度比検定)で扱います。
最強力検定(most powerful test)とは、要求する有意水準 α を満たす検定の中で、対立仮説のもとでの検出力が最大のものをいいます。単純対単純(帰無も対立も1点)であれば、ネイマン・ピアソンの補題が「尤度比検定が最強力だ」と即答してくれます。問題は、対立仮説が H1:θ>θ0 のように範囲をもつ複合仮説のときです。
ここで重要になるのが、MP(特定の対立点に対する最強力)とUMP(一様最強力)の区別です。複合対立 H1:θ>θ0 の中の特定の1点に対してだけ検出力を最大にする検定なら、ネイマン・ピアソンでその点用に作れます(これがMP)。しかし普通は、対立側の値が事前に1つに決まっていません。そこで、H1 に含まれるすべての θ1 に対して同時に最強力であってほしい——この要求を満たす検定を一様最強力検定(UMP=uniformly most powerful)と呼びます。
UMPが存在するかどうかは、対立仮説の形に強く依存します。片側対立 H1:θ>θ0 では、尤度比が統計量の単調関数になる(単調尤度比=MLRの)性質をもつ分布で、UMP検定が存在することが多いです。たとえば Xˉ∼N(θ,σ2/n) の片側検定 H0:θ=θ0 対 H1:θ>θ0 では、通常の片側z検定が対立側のどの θ>θ0 に対しても同時に最強力(UMP)になります。一方、両側対立 H1:θ=θ0 では一般にUMPは存在しません。上向きの θ>θ0 に最強力な検定(棄却域を右だけに置く)は、下向きの θ<θ0 には最強力でなく、両方を同時に満たす検定が作れないためです。
(両方が1点)に限る。
最適な検定の形
L(θ1)/L(θ0)>k で棄却する尤度比検定が、同じ α のもとで検出力最大(最強力)。
閾値 k の決め方
H0 のもとで棄却確率がちょうど α になるように k(または同値な境界 c)を決める。
片側検定への帰着
N(θ,1) では Λ(x)=exp(x−0.5) が x の増加関数。Λ>k⇔x>c で片側z検定になる。
複合への橋渡し
対立が範囲をもつ複合仮説には直接使えない。一般化は 最強力検定・尤度比へ。
指数分布での適用例(2021年度)
「ネイマン・ピアソン」タグの過去問(2021年度問題4)は正規分布ではなく指数分布Exp(θ)(平均1/θ)を対象にした大問。H0:θ=θ0対H1:θ=θ1(θ1<θ0)の尤度比は∑Xiの単調関数になり、最良棄却域は∑Xi≥cの形になる。∑Xiの分布(指数分布の和)から有意水準を数値計算するところまでが問われた(n=4,θ0=5,θ1=1の具体例)。
最強力検定:定義
PH0(棄却)≤α を満たす検定の中で、対立のもとの検出力が最大のもの。
最強力検定:単純対単純の答え
帰無も対立も1点なら、ネイマン・ピアソンの尤度比検定がそのまま最強力。
最強力検定:MPとUMPの違い
MPは特定の1つの対立点に対して最強力。UMPは H1 内のすべての対立点に対して同時に最強力。
最強力検定:片側ではUMPが存在しやすい
単調尤度比(MLR)をもつ分布の片側対立では、片側z検定などがUMPになる(正規の例)。
最強力検定:両側では一般に存在しない
両側対立 H1:θ=θ0 では右と左を同時に最強力にできず、UMPは一般に存在しない。
対
H1:θ=1 の尤度比は
Λ(x)=exp(−x2/2)exp(−(x−1)2/2)=exp(x−0.5)
これは x の増加関数なので Λ>k⇔x>c。NP検定は大きい x で棄却する片側z検定に帰着する。
▶ 最強力検定:Xˉ∼N(θ,σ2/n) の片側検定 H0:θ=θ0 対 H1:θ>θ0 では
Xˉ>θ0+zασ/n ⇒ 棄却
という通常の片側z検定が、対立側のどの θ>θ0 に対しても同時に最強力(UMP)になる。
が分母。逆だと棄却の向きが狂う)
閾値 k を勝手な値にする(k は有意水準 α から H0 のもとで棄却確率が α になるよう決める) ネイマン・ピアソンの補題は正規分布の例だけで理解した気になりやすいが、実際の過去問(2021年度、20点の大問)は補題の一般証明と指数分布への適用・数値計算までを要求する。分布によらず「尤度比が統計量の単調関数になる」という論法自体を押さえる。UMP検定が常に存在すると思い込む(両側対立 H1:θ=θ0 では一般に存在しない。片側では存在しやすい) MPとUMPを混同する(MPは特定の1点に対して、UMPは全対立点に対して同時に最強力。要求の強さが違う)片側z検定が両側対立にもUMPだと誤解する(片側で最適でも、反対側の対立には最適でない。両側用は別に考える)