確率変数の独立とは|定義・公式とアクチュアリー試験の関連問題 | acpass確率・用語・基礎・条件付き
ひとことで言うと
確率変数 X,Y が独立とは、同時分布が周辺分布の積にきれいに分解されることです。事象の独立(P(A∩B)=P(A)P(B))の一段上で、あらゆる組み合わせについて『片方の値が他方の確率に一切影響しない』状態。E[XY]=E[X]E[Y] や分散の加法性が成り立ちます。
| Y=0 | Y=1 | 周辺 |
|---|
| X=0 |
|---|
数式で表すと
P(X≤x,Y≤y)=P(X≤x)P(Y≤y) 確率変数の独立性とは、X と Y の同時分布関数(あるいは同時密度)が、それぞれの周辺分布の積にきれいに分解されることをいいます。分布関数の言葉では
P(X≤x, Y≤y)=P(X≤x)P(Y≤y)
試験に出る性質
定義
P(X≤x,Y≤y)=P(X≤x)P(Y≤y)
例で見る
独立な Bernoulli(0.5) の X,Y と Z=X⊕Y(排他的論理和)を考える。
つまずきポイント
- 確率変数の独立と事象の独立を同一視する(前者はあらゆる値の組での積分解。後者は特定2事象の1等式で一段下位)
- 周辺分布が分かれば同時分布が決まると思う(周辺が同じでも同時は複数。独立は積に分解する特別な場合のみ)
- ペアごと独立なら全体も独立だと思い込む(Z=X⊕Y が反例。2つずつ独立でも3つ同時には独立とは限らない)
- X,Yが独立ならX2,Y2
定着クイズ
Q1確率変数 X,Y が独立であることの定義は?
Q2確率変数X,Yが無相関(Cov(X,Y)=0)であるとき、必ず言えるのはどれか?
Q3X,Y 独立 Bernoulli(0.5)、Z=X⊕Y のとき X,Y,Z は?
- 同時確率。独立なら行の周辺 × 列の周辺に一致する(0.5×0.5=0.25)
確率変数 X,Y の同時分布を 2×2 の表で示した図。独立な Bernoulli(0.5) では各マスの同時確率 0.25 が、行の周辺 0.5 と列の周辺 0.5 の積になっている。独立=同時分布が周辺分布の積に分解されること。
同時分布が周辺分布の積になる関係。E[XY]=E[X]E[Y]、分散は単純に加わる。
がすべての
で成り立つこと、密度の言葉では
fX,Y(x,y)=fX(x)fY(y) です。これは
で扱った事象の独立性(
P(A∩B)=P(A)P(B) )の一段上位の概念です。事象の独立は「特定の2つの出来事」についての1本の等式ですが、確率変数の独立は「
がとりうるあらゆる値の組」について同時に積分解が成り立つ、という強い条件です。事象の独立と排反の違い・事象レベルでのペアごと独立の反例など、事象の独立自体の詳しい性質は
で扱っているので、そちらもあわせて確認してください。独立なら
E[XY]=E[X]E[Y] が成り立ち、和の分散は単純に加わって
V[X+Y]=V[X]+V[Y] になります(共分散が0だから)。
周辺分布との連携で大事なのは、周辺分布だけでは同時分布は決まらないという点です。同じ周辺分布をもつ同時分布はいくつもあり、その中で『同時分布=周辺の積』という特別な関係を満たすものだけが独立です。例として、X,Y をそれぞれ独立な Bernoulli(0.5) とすると、同時分布表は4マスすべてが 0.25 で、各マスがちょうど行の周辺 0.5 ×列の周辺 0.5=0.25 になっています(図)。これが独立の最も簡単な姿です。逆に、もし周辺は同じ 0.5 ずつでも対角に確率が偏った表(例:P(0,0)=P(1,1)=0.5)なら、周辺は同じでも積に分解されず独立ではありません。「周辺が同じでも同時は一意でない、独立はその中の特別な強い条件」という見方を押さえてください。
3変数以上で必ず注意したいのがペアごと独立(pairwise)と全体の独立(mutual)の違いです。次の有名な反例で確認します。X,Y を独立な Bernoulli(0.5) とし、Z=X⊕Y(排他的論理和。X+Y を2で割った余り)と定義します。このとき X,Y,Z はペアごとには独立です。たとえば P(X=0,Z=0)=P(X=0,Y=0)=0.25 で、P(X=0)P(Z=0)=0.5×0.5=0.25 に等しく(Z は0と1を各 0.5 でとる)、他の組も同様に確認できます。ところが3つ同時には独立ではありません。P(X=0,Y=0,Z=0)=P(X=0,Y=0)=0.25(X=Y=0 なら Z=0 は自動)ですが、もし3つが独立なら P(X=0)P(Y=0)P(Z=0)=0.53=0.125 になるはずで、0.25=0.125 と食い違います。つまり「どの2つを取り出しても独立」でも「3つまとめて独立」とは限らない。この『ペアごと独立だが全体では独立でない』反例は試験でも問われる重要ポイントです(事象の独立でも事象レベルの同種の反例を扱っています)。
独立と無相関(Cov(X,Y)=0)の関係にも注意が必要です。独立ならば必ず無相関になりますが、逆は成り立ちません。無相関は「線形な関係がない」というだけの弱い条件で、非線形な依存関係が残っていても Cov(X,Y)=0 になり得ます(Y=X2型の反例や2変量正規に限った例外は 無相関 で詳しく扱います)。「無相関⇒独立」だと早合点しないことが重要です。
がすべての
で成立。密度なら
fX,Y=fXfY 。
事象の独立の上位
事象の独立 P(A∩B)=P(A)P(B)(事象の独立)の一段上。あらゆる値の組で積分解する強い条件。事象の独立と排反の違い・事象レベルのペアごと独立の反例など詳細は事象の独立を参照。
期待値と分散
独立なら E[XY]=E[X]E[Y]、V[X+Y]=V[X]+V[Y](共分散0)。
周辺だけでは決まらない
同じ周辺をもつ同時分布は複数ある(周辺分布)。独立はその中の積に分解する特別な1つ。
ペアごと≠全体
Z=X⊕Y では X,Y,Z はペアごと独立だが3つ同時には独立でない(0.25=0.125)。
独立性は変換後に一方向にしか伝わらない
X,Y独立 ⇒ X2,Y2独立(変換しても独立性は保たれる)。しかし逆は成り立たず、X2,Y2が独立でも元のX,Yが独立とは限らない(2018年度出題)。
無相関は独立より弱い
独立 ⇒ 無相関(Cov(X,Y)=0)だが逆は成り立たない。無相関は線形関係がないことしか意味せず、非線形な依存が残る場合がある(反例・2変量正規での例外は無相関で詳述)。
ペアごと独立:P(X=0,Z=0)=0.25=P(X=0)P(Z=0)=0.5×0.5(他の組も同様)。 全体では非独立:P(X=0,Y=0,Z=0)=0.25=P(X=0)P(Y=0)P(Z=0)=0.53=0.125。
も独立(十分条件)だが、逆に
が独立だからといって
が独立とは限らない(2018年度出題。サイコロの目から作ったX,Yは非独立だがX²,Y²は独立になる例がある)
無相関(Cov=0)なら独立だと思い込む(逆は成り立たない。Y=X2型の反例や2変量正規に限った例外の詳細は無相関を参照)