acpass

確率用語

ひとことで言うと

無相関とは Cov(X,Y)=0\mathrm{Cov}(X,Y)=0、つまり直線的な連動がないこと。よくある誤解が『無相関=独立』ですが、これは一般には間違いです。無相関でも、曲線的な強い依存が残っていることがあります。その正面からの反例を押さえるのがこの項の核心です。

無相関でも独立とは限らない典型反例。Xが{-1,0,1}に一様分布しY=X²のとき、3点(-1,1)(0,0)(1,1)が放物線上に並ぶ。E[X]=0, E[XY]=E[X³]=0よりCov(X,Y)=0で無相関だが、Xが分かればYが完全に決まる強い依存があるので独立ではない。2変量正規に限っては無相関なら独立も成り立つ(C017)が一般には不成立Cov=0でも独立とは限らない:Y=X²の反例(−1,1)(1,1)(0,0)XY=X²E[XY]=E[X³]=0 → Cov=0、でも P(Y=1|X=1)=1≠2/3

無相関でも独立でない典型反例。XU{1,0,1}X\sim U\{-1,0,1\}Y=X2Y=X^2E[XY]=E[X3]=0E[XY]=E[X^3]=0 なので Cov(X,Y)=0\mathrm{Cov}(X,Y)=0(無相関)だが、XX が分かれば YY は完全に決まるので独立でない。2変量正規に限れば無相関 \Rightarrow 独立(C017)。

数式で表すと

Cov(X,Y)=0\mathrm{Cov}(X,Y)=0

Cov=0\mathrm{Cov}=0。独立なら無相関だが、逆は一般に成り立たない(正規なら同値)。

無相関とは共分散がゼロ、Cov(X,Y)=0\mathrm{Cov}(X,Y)=0(同値に相関係数 ρ=0\rho=0)の状態をいいます。共分散は2変数の直線的な連動を測る量なので、無相関は『線形な関係がない』ことを意味します。ここで決定的に重要なのが、独立と無相関の一方向だけの含意です。独立ならば無相関は常に成り立ちます(独立なら E[XY]=E[X]E[Y]E[XY]=E[X]E[Y] なので Cov=0\mathrm{Cov}=0)。しかしその逆『無相関ならば独立』は一般には成り立ちません。無相関は独立より弱い条件なのです。なぜなら共分散が捉えるのは線形な連動だけで、XXYY が曲線的(非線形)に強く依存していても、その依存が線形成分として相殺されれば Cov=0\mathrm{Cov}=0 になりうるからです。 この『無相関だが独立でない』を正面から示す古典的反例を見ましょう。XX{1,0,1}\{-1,0,1\} に一様分布(各確率 1/31/3)し、Y=X2Y=X^2 と定義します。YYXX から完全に決まるので、両者にはこれ以上ないほど強い依存があります。それでも共分散を計算すると——E[X]=0E[X]=0E[Y]=E[X2]=2/3E[Y]=E[X^2]=2/3、そして E[XY]=E[X3]=(1+0+1)/3=0E[XY]=E[X^3]=(-1+0+1)/3=0。したがって Cov(X,Y)=E[XY]E[X]E[Y]=0023=0\mathrm{Cov}(X,Y)=E[XY]-E[X]E[Y]=0-0\cdot\tfrac{2}{3}=0 で無相関です。一方、P(Y=1X=1)=123=P(Y=1)P(Y=1\mid X=1)=1\neq\frac{2}{3}=P(Y=1) なので独立ではありません。共分散が拾うのは線形成分だけなので、Y=X2Y=X^2 という左右対称な放物線的依存は、正の側(X=1X=1)と負の側(X=1X=-1)の寄与が打ち消し合って Cov=0\mathrm{Cov}=0 になる——けれど依存そのものは厳然と残っています。 ただし例外があります。X,YX,Y が2変量正規分布に従う場合に限っては、無相関 \Rightarrow 独立が成り立ちます(ρ=0\rho=0 を同時密度に入れると fX(x)fY(y)f_X(x)f_Y(y) の積に因数分解されるため)。だから『無相関ならば独立』が使えるのは2変量正規という特別な前提があるときだけと覚えてください。一般の分布では無相関は独立より弱く、上の Y=X2Y=X^2 のような反例がいつでも存在しうる——この非対称な関係(独立 \Rightarrow 無相関は真、逆は2変量正規でのみ真)が試験で最も問われるポイントです。

試験に出る性質

定義

Cov(X,Y)=0\mathrm{Cov}(X,Y)=0ρ=0\rho=0)。直線的な連動がない状態で、E[XY]=E[X]E[Y]E[XY]=E[X]E[Y] と同値。

独立→無相関は常に真

独立なら E[XY]=E[X]E[Y]E[XY]=E[X]E[Y] から必ず無相関。含意は一方向に必ず成り立つ。

無相関→独立は一般に偽

無相関は独立より弱い。非線形な依存が線形成分として相殺されれば Cov=0\mathrm{Cov}=0 でも依存しうる。

典型反例 Y=X²

XU{1,0,1},Y=X2X\sim U\{-1,0,1\},Y=X^2Cov=0\mathrm{Cov}=0 だが XXYY を完全に決める。無相関でも強い依存の例。

2変量正規では同値

2変量正規に限り無相関 \Rightarrow 独立(C017)。同時密度が積に因数分解されるため。これは正規特有の例外。

例で見る

XU{1,0,1}X\sim U\{-1,0,1\}(各 1/31/3)、Y=X2Y=X^2E[X]=0E[X]=0E[Y]=E[X2]=23E[Y]=E[X^2]=\frac{2}{3}E[XY]=E[X3]=0E[XY]=E[X^3]=0Cov(X,Y)=0023=0\mathrm{Cov}(X,Y)=0-0\cdot\frac{2}{3}=0(無相関)。 だが P(Y=1X=1)=123=P(Y=1)P(Y=1\mid X=1)=1\neq\frac{2}{3}=P(Y=1) なので独立でない。XXYY を完全に決める強い依存があるのに無相関。

つまずきポイント

  • 『無相関ならば独立』を一般の分布で使う(一般には偽。Y=X2Y=X^2 のように無相関でも強く依存する例がある。逆向き『独立→無相関』だけが常に真)
  • 無相関を『何の関係もない』と解釈する(無相関は線形な関係がないだけ。曲線的な依存は残りうる)
  • 2変量正規の例外を忘れる(無相関 \Rightarrow 独立が言えるのは2変量正規のときだけ。前提を必ず確認する)

定着クイズ

無相関と独立の正しい関係は?

XU{1,0,1},Y=X2X\sim U\{-1,0,1\},Y=X^2 について正しいのは?

『無相関ならば独立』が成り立つのは?

この用語を扱う問題(1