acpass

確率定理

ひとことで言うと

加法性(再生性)とは『同じ族の独立な分布を足すと、また同じ族に戻る』性質です。ポアソンどうしの和はポアソン、正規どうしの和は正規——ただし二項やガンマは"同じパラメータ"でないと成り立ちません。なぜ成り立つのか、その統一的な理由がモーメント母関数(MGF)です。

加法性をもつ主要分布の統一像。独立な2つの分布の和が同じ族に戻る様子を、Pois(3)とPois(5)が合流してPois(8)になる矢印で示す。MGFの積 M_X(t)·M_Y(t)=exp(3(e^t-1))·exp(5(e^t-1))=exp(8(e^t-1))=M_Pois(8)(t) が成り立つため率が加算される。正規は分散が加算、二項は同じpのときnが加算、ガンマは同じβのときαが加算、カイ二乗は自由度が加算される独立な和が同じ族に戻る=加法性(MGFの積で証明)Pois(3)Pois(5)Pois(8)率は加算 3+5=8正規:分散加算/二項:同じpでn加算/ガンマ:同じβでα加算/χ²:自由度加算B(3,0.4)+B(5,0.6) は二項にならない(pが違う)

加法性をもつ主要分布。Pois(3)+Pois(5)=Pois(8)\mathrm{Pois}(3)+\mathrm{Pois}(5)=\mathrm{Pois}(8) をMGFの積で示す。正規は分散が加算、二項は同じ pp のとき nn が加算、ガンマは同じ β\beta のとき α\alpha が加算、χ2\chi^2 は自由度が加算。B(3,0.4)+B(5,0.6)B(3,0.4)+B(5,0.6) は二項にならない。

数式で表すと

Pois(λ1)+Pois(λ2)=Pois(λ1+λ2)\mathrm{Pois}(\lambda_1)+\mathrm{Pois}(\lambda_2)=\mathrm{Pois}(\lambda_1+\lambda_2)

同じ族で再生性をもつ分布の和の法則。例:独立ポアソンの和はポアソン(率は和)。

加法性(再生性)とは、ある分布族に属する独立な確率変数の和が、ふたたび同じ分布族に属する性質です。代表的なのがポアソン分布で、XPois(λ1)X\sim\mathrm{Pois}(\lambda_1)YPois(λ2)Y\sim\mathrm{Pois}(\lambda_2) が独立なら X+YPois(λ1+λ2)X+Y\sim\mathrm{Pois}(\lambda_1+\lambda_2)——率がそのまま加算されます。主要な分布の加法性:N(μ1,σ12)+N(μ2,σ22)=N(μ1+μ2,σ12+σ22)N(\mu_1,\sigma_1^2)+N(\mu_2,\sigma_2^2)=N(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2)(平均も分散も加算)、Pois(λ1)+Pois(λ2)=Pois(λ1+λ2)\mathrm{Pois}(\lambda_1)+\mathrm{Pois}(\lambda_2)=\mathrm{Pois}(\lambda_1+\lambda_2)(率が加算)、χk12+χk22=χk1+k22\chi^2_{k_1}+\chi^2_{k_2}=\chi^2_{k_1+k_2}(自由度が加算)。条件付きで加法性をもつのが二項分布とガンマ分布です:B(n1,p)+B(n2,p)=B(n1+n2,p)B(n_1,p)+B(n_2,p)=B(n_1+n_2,p) は同じ pp のときだけ、Gamma(α1,β)+Gamma(α2,β)=Gamma(α1+α2,β)\mathrm{Gamma}(\alpha_1,\beta)+\mathrm{Gamma}(\alpha_2,\beta)=\mathrm{Gamma}(\alpha_1+\alpha_2,\beta) は同じ尺度 β\beta のときだけ成り立ちます。 なぜ加法性が成り立つのか——モーメント母関数(MGF)を使えば統一的に証明できます。鍵となる事実は『独立な和のMGFは、各MGFの積になる』こと、すなわち X,YX,Y 独立のとき MX+Y(t)=MX(t)MY(t)M_{X+Y}(t)=M_X(t)\,M_Y(t) です。さらにMGFには『分布とMGFは1対1に対応する』という一意性があるので、積を計算した結果がある分布のMGFと一致すれば、和はその分布だと確定できます。ポアソンで実演すると、MPois(λ)(t)=exp(λ(et1))M_{\mathrm{Pois}(\lambda)}(t)=\exp(\lambda(e^{t}-1)) なので MX+Y(t)=eλ1(et1)eλ2(et1)=e(λ1+λ2)(et1)M_{X+Y}(t)=e^{\lambda_1(e^{t}-1)}\cdot e^{\lambda_2(e^{t}-1)}=e^{(\lambda_1+\lambda_2)(e^{t}-1)} となり、これはまさに Pois(λ1+λ2)\mathrm{Pois}(\lambda_1+\lambda_2) のMGFそのもの。 この『MGFの積』の視点から、二項・ガンマでパラメータ制約が要る理由も見えます。二項のMGFは MB(n,p)(t)=(1p+pet)nM_{B(n,p)}(t)=(1-p+pe^{t})^{n} で、底 (1p+pet)(1-p+pe^{t})pp に依存します。pp が同じなら積は (1p+pet)n1+n2(1-p+pe^{t})^{n_1+n_2} ときれいに指数がまとまり B(n1+n2,p)B(n_1+n_2,p) になりますが、pp が違うと底が違って二項のMGFの形になりません。だから B(3,0.4)+B(5,0.6)B(3,0.4)+B(5,0.6) は二項分布になりません。ガンマも同様で、β\beta が共通のときだけ形状 α\alpha が加算されます。『同じ族+共通パラメータ+独立』の3条件がそろって初めて加法性が働く、と覚えてください。

試験に出る性質

MGFの積が本質

独立なら MX+Y(t)=MX(t)MY(t)M_{X+Y}(t)=M_X(t)M_Y(t)。MGFの一意性で、積がある分布のMGFと一致すれば和はその分布と確定する。

無条件で加法性をもつ族

正規(平均・分散とも加算)、ポアソン(率が加算)、カイ二乗(自由度が加算)。独立でさえあれば和が同族に戻る。

パラメータ制約つきの族

二項は同じ pp のとき nn が加算、ガンマは同じ尺度 β\beta のとき形状 α\alpha が加算。共通パラメータが必須。

独立性が前提

加法性は独立な和に対する性質。従属だと和のMGFが積に分解できず、同族に戻る保証はない。

閉じない分布もある

一様分布や対数正規は和に関する再生性をもたない。和をとると別の分布になる(一様の和は三角形など)。

例で見る

ポアソンの加法性をMGFで証明する。MPois(λ)(t)=exp(λ(et1))M_{\mathrm{Pois}(\lambda)}(t)=\exp(\lambda(e^{t}-1)) なので、独立な XPois(3), YPois(5)X\sim\mathrm{Pois}(3),\ Y\sim\mathrm{Pois}(5) に対し MX+Y(t)=e3(et1)e5(et1)=e8(et1)=MPois(8)(t)M_{X+Y}(t)=e^{3(e^{t}-1)}\cdot e^{5(e^{t}-1)}=e^{8(e^{t}-1)}=M_{\mathrm{Pois}(8)}(t)。よって X+YPois(8)X+Y\sim\mathrm{Pois}(8)。 二項の注意:B(3,0.4)+B(5,0.4)=B(8,0.4)B(3,0.4)+B(5,0.4)=B(8,0.4) は成立(同じ pp)。一方 B(3,0.4)+B(5,0.6)B(3,0.4)+B(5,0.6)pp が違うので二項分布にならない。

つまずきポイント

  • 二項・ガンマでパラメータが違っても加算できると思う(B(3,0.4)+B(5,0.6)B(3,0.4)+B(5,0.6) は二項にならない。ppβ\beta が共通のときだけ加法性が働く)
  • 従属な場合にも和が同族に戻ると思い込む(加法性は独立が前提。従属だとMGFが積に分解できず保証されない)
  • あらゆる分布が和で閉じると誤解する(一様・対数正規などは再生性をもたない。和は別の分布になる)

定着クイズ

独立な XPois(3),YPois(5)X\sim\mathrm{Pois}(3),Y\sim\mathrm{Pois}(5) の和の分布は?

加法性の証明で使うMGFの性質は?

二項分布が加法性をもつのはどんなとき?

この用語を扱う問題(1