acpass

ネイマン・ピアソン

知識マップ

統計定理

ひとことで言うと

「帰無も対立もどちらも1点だけ(単純対単純)」という最も単純な検定問題で、最も性能の良い検定はどう作ればよいか、に答える定理です。答えは「2つの仮説での尤度の比(尤度比)を計算し、それがある閾値を超えたら棄却する」というものです。

帰無仮説の密度f(x;θ0)と対立仮説の密度f(x;θ1)を重ねた図。尤度比Λ(x)=f(x;θ1)/f(x;θ0)はxの増加関数なので、Λ>k は x>c と同値になり、大きいxの斜線領域で棄却する片側検定に帰着する尤度比Λ(x)が大きい=x>c の領域(斜線)で棄却f(x;θ₀)f(x;θ₁)x=cx

帰無仮説の密度 f(x;θ0)f(x;\theta_0) と対立仮説の密度 f(x;θ1)f(x;\theta_1) を重ねた図。尤度比 Λ(x)=f(x;θ1)/f(x;θ0)\Lambda(x)=f(x;\theta_1)/f(x;\theta_0)xx の増加関数なので、Λ>k\Lambda>kx>cx>c と同値になり、大きい xx の斜線領域で棄却する片側検定に帰着する。

数式で表すと

L(θ1)L(θ0)>k  H0 棄却\dfrac{L(\theta_1)}{L(\theta_0)}>k\ \Rightarrow\ H_0\ \text{棄却}

単純帰無 H0:θ=θ0H_0:\theta=\theta_0 対 単純対立 H1:θ=θ1H_1:\theta=\theta_1 では、尤度比を閾値で棄却する検定が、与えられた有意水準のもとで検出力を最大にする(最強力)。

ネイマン・ピアソンの補題は、仮説検定の中でも最も単純な「単純帰無 H0:θ=θ0H_0:\theta=\theta_0 対 単純対立 H1:θ=θ1H_1:\theta=\theta_1」という設定(帰無も対立も、パラメータが1点だけに決まっている)で、与えられた有意水準 α\alpha のもとで検出力を最大にする検定の作り方を教える定理です。その答えは、尤度比(concept: 尤度比)を使った検定で、 L(θ1)L(θ0)>k  H0 を棄却\dfrac{L(\theta_1)}{L(\theta_0)}>k\ \Rightarrow\ H_0\ \text{を棄却} という形をとります。L(θ)L(\theta) はパラメータ θ\theta のときにそのデータが得られる尤度(もっともらしさ)、kk は有意水準 α\alpha を満たすように決める閾値です。この尤度比検定が、同じ α\alpha を守るどんな検定よりも検出力が高い(最強力である)、というのが補題の主張です(concept: 最強力検定)。 抽象的なので具体的に導いてみます。XN(θ,1)X\sim N(\theta,1) の観測が n=1n=1 個あり、H0:θ=0H_0:\theta=0H1:θ=1H_1:\theta=1 とします。尤度は正規密度そのものなので、尤度比は Λ(x)=f(x;1)f(x;0)=exp((x1)2/2)exp(x2/2)=exp ⁣(x2(x1)22)=exp ⁣(2x12)=exp(x0.5)\Lambda(x)=\dfrac{f(x;1)}{f(x;0)}=\dfrac{\exp(-(x-1)^2/2)}{\exp(-x^2/2)}=\exp\!\Big(\dfrac{x^2-(x-1)^2}{2}\Big)=\exp\!\Big(\dfrac{2x-1}{2}\Big)=\exp(x-0.5) となります。これは xx の増加関数です。したがって「Λ(x)>k\Lambda(x)>k」という棄却条件は、両辺の対数をとれば「x>cx>c」(cc はある定数)という単純な条件と同値になります。つまりネイマン・ピアソン検定は、この場合「観測した xx が大きいときに棄却する」という、見慣れた片側のz検定にそのまま帰着するのです。閾値 cc は、H0H_0 のもとで P(X>c)=αP(X>c)=\alpha となるように決めます。 この補題が効くのは「単純対単純」に限られる、という点が最重要の注意です。実務では対立仮説が H1:θθ0H_1:\theta\ne\theta_0H1:θ>θ0H_1:\theta>\theta_0 のように範囲をもつ(複合仮説の)ことが多く、その場合「対立側の尤度 L(θ1)L(\theta_1)」の θ1\theta_1 が1つに定まりません。複合の場合にどう一般化するかは concept: 最強力検定(一様最強力UMPの存在条件)や concept: 尤度比(一般化尤度比検定)で扱います。ネイマン・ピアソンはあくまで、最も理想化された単純対単純の世界で「最適な検定の形は尤度比検定である」という出発点を与える基本定理だ、と位置づけてください。

試験に出る性質

適用範囲

単純帰無 H0:θ=θ0H_0:\theta=\theta_0 対 単純対立 H1:θ=θ1H_1:\theta=\theta_1(両方が1点)に限る。

最適な検定の形

L(θ1)/L(θ0)>kL(\theta_1)/L(\theta_0)>k で棄却する尤度比検定が、同じ α\alpha のもとで検出力最大(最強力)。

閾値 $k$ の決め方

H0H_0 のもとで棄却確率がちょうど α\alpha になるように kk(または同値な境界 cc)を決める。

片側検定への帰着

N(θ,1)N(\theta,1) では Λ(x)=exp(x0.5)\Lambda(x)=\exp(x-0.5)xx の増加関数。Λ>kx>c\Lambda>k\Leftrightarrow x>c で片側z検定になる。

複合への橋渡し

対立が範囲をもつ複合仮説には直接使えない。一般化は concept: 最強力検定・concept: 尤度比へ。

例で見る

XN(θ,1)X\sim N(\theta,1)n=1n=1H0:θ=0H_0:\theta=0H1:θ=1H_1:\theta=1 の尤度比は Λ(x)=exp((x1)2/2)exp(x2/2)=exp(x0.5)\Lambda(x)=\dfrac{\exp(-(x-1)^2/2)}{\exp(-x^2/2)}=\exp(x-0.5)。 これは xx の増加関数なので Λ>kx>c\Lambda>k\Leftrightarrow x>c。NP検定は「大きい xx で棄却」する片側z検定に帰着する。

つまずきポイント

  • 複合仮説(H1H_1 が範囲をもつ場合)にNP補題をそのまま適用する(単純対単純限定。複合は concept: 最強力検定/concept: 尤度比へ)
  • 尤度比の分子・分母を逆にする(対立 L(θ1)L(\theta_1) が分子、帰無 L(θ0)L(\theta_0) が分母。逆だと棄却の向きが狂う)
  • 閾値 kk を勝手な値にする(kk は有意水準 α\alpha から H0H_0 のもとで棄却確率が α\alpha になるよう決める)

定着クイズ

ネイマン・ピアソンの補題が適用できる設定は?

補題が与える最強力検定の形は?

N(θ,1)N(\theta,1)H0:θ=0H_0:\theta=0H1:θ=1H_1:\theta=1 で尤度比 Λ(x)=exp(x0.5)\Lambda(x)=\exp(x-0.5) から導かれる棄却域は?

この用語を扱う問題(1