共分散とは|定義・公式とアクチュアリー試験の関連問題 | acpass確率・用語・多変量・合成
ひとことで言うと
共分散 Cov(X,Y)=E[XY]−E[X]E[Y] は2変数が同じ方向に動くかを測る量ですが、その真価は『双線形性』にあります。各引数について線形なので、どんな複雑な線形結合の分散でも、共分散を分配していけば機械的に計算できます。自分自身との共分散は分散そのものです。
共分散の双線形性:Cov[aX+bY,Z]=aCov[X,Z]+bCov[Y,Z]
数式で表すと
Cov(X,Y)=E[XY]−E[X]E[Y] 2変数の同時のばらつき Cov(X,Y)=E[XY]−E[X]E[Y]
共分散は Cov(X,Y)=E[(X−E[X])(Y−E[Y])]=E[XY]−E[X]E[Y]
試験に出る性質
定義
Cov(X,Y)=E[XY]−E[X]E[Y]。正なら同方向、負なら逆方向に連動。単位は X,Y
例で見る
X,Y∈{0,1}、P(0,0)=0.3, P(0,1)=0.1, P(1,0)=0.1, P(1,1)=0.5
つまずきポイント
- 双線形性で定数の扱いを誤る(Cov(aX+c,Y)=aCov(X,Y)。加える定数 c は共分散に効かず、係数 a
定着クイズ
Q1共分散の双線形性 Cov(aX+bY,Z) は?
Q2自己共分散 Cov(X,X) は何に等しい?
Q3X,Y∈{0,1}、E[X]=E[Y]=0.6,E[XY]=0.5 のとき Cov(X,Y) は?
。各引数について線形なので分配できる。自己共分散
Cov[X,X]=V[X] 。例の
分布では
Cov[X,Y]=0.5−0.6⋅0.6=0.14 (正=同方向)。
。和の分散に
が現れる。
で定義され、2つの変数が平均からどれだけ
連動して
ずれるかを測ります(正なら同方向、負なら逆方向)。ここでは定義そのものよりも、共分散が計算道具として強力である理由——
双線形性
——を主軸に据えます。共分散は2つの引数の
それぞれについて線形
です。すなわち、定数
と確率変数
に対して
Cov(aX+bY,Z)=aCov(X,Z)+bCov(Y,Z)
が成り立ち、第2引数についても同様に展開できます(さらに
Cov(X,c)=0 、定数は共分散に効かない)。この『各引数について線形=双線形』という性質のおかげで、共分散は和や定数倍をまたいで自由に分配・展開できます。
双線形性を繰り返し使うと、一般の線形結合の分散公式が導けます。分散は自己共分散だという事実 V[W]=Cov(W,W) から出発し、W=∑iaiXi とおいて双線形性で両側を展開すると
V(∑iaiXi)=Cov(∑iaiXi, ∑jajXj)=∑i∑jaiajCov(Xi,Xj)
という二重和の汎用公式になります。対角項(i=j)は ai2Cov(Xi,Xi)=ai2V[Xi]、非対角項(i=j)は aiajCov(Xi,Xj) で、対称性 Cov(Xi,Xj)=Cov(Xj,Xi) から非対角は2倍にまとまります。2変数に落とすと V[aX+bY]=a2V[X]+b2V[Y]+2abCov(X,Y)(線形結合)という見慣れた式になり、和・差の分散公式もこの特別な場合だと分かります。双線形性さえ握っておけば、何変数の線形結合でも公式を暗記せずに導けるのが強みです。
もうひとつ強調したいのが、自己共分散は分散という自然な接続です。定義に Y=X を代入すると
Cov(X,X)=E[X2]−(E[X])2=V[X]
となり、共分散は『分散を2変数に一般化したもの』だと分かります。だから上の二重和で Cov(Xi,Xi) が自然に分散になるのです。数値例で双線形性と自己共分散を確認しましょう。X,Y∈{0,1} で同時確率を P(0,0)=0.3, P(0,1)=0.1, P(1,0)=0.1, P(1,1)=0.5 とします。E[X]=P(X=1)=0.6、E[Y]=0.6、E[XY]=P(X=1,Y=1)=0.5。よって Cov(X,Y)=0.5−0.6⋅0.6=0.5−0.36=0.14>0(同じ方向に動きやすい)。自己共分散は X∼Bernoulli(0.6) なので E[X2]=E[X]=0.6 より Cov(X,X)=0.6−0.36=0.24=V[X] で、確かに分散に一致します。
の積の次元をもつ。
双線形性
Cov(aX+bY,Z)=aCov(X,Z)+bCov(Y,Z)。各引数について線形なので和・定数倍を自由に分配できる。
自己共分散=分散
Cov(X,X)=E[X2]−(E[X])2=V[X]。共分散は分散の2変数への自然な拡張。
対称性・定数で0
Cov(X,Y)=Cov(Y,X)、Cov(X,c)=0(定数は連動しない)。
一般線形結合の分散
双線形性から V[∑aiXi]=∑i∑jaiajCov(Xi,Xj)。和・差・線形結合の公式の母体。
。
E[X]=0.6, E[Y]=0.6, E[XY]=P(1,1)=0.5。Cov(X,Y)=0.5−0.6⋅0.6=0.14>0(同方向)。
自己共分散:X∼Bernoulli(0.6) で E[X2]=0.6 より Cov(X,X)=0.6−0.36=0.24=V[X]。
だけが前に出る)
Cov(X,X) を 0 や 1 と思う(自分自身との共分散は分散 V[X] になる。一般に非零) 共分散の大きさで関係の強さを比べる(共分散は単位に依存。強さの比較は標準化した相関係数 ρ で行う)