2.11 共分散

二つの確率変数$X,Y$を同時に考える時，次の期待値を$X$と$Y$の共分散(covariance)と呼ぶ．これを$\rm Cov(X,Y)$と表す． 共分散とは，二つの確率変数のばらつきにどのような関係があるかを見る指標である． これは以下のように定義される．

$$\begin{align} \rm Cov(X,Y) = E[(X - \mu_X)(Y- \mu_Y)] \end{align}$$ ここで$\mu_X = E[X], \mu_Y = E[Y]$である． なおこれは$T(X,Y) = (X - \mu_x)(Y- \mu_y)$とした時の$E[T(X,Y)]$と見なすこともできる． 共分散の式を眺めればわかるように，$X$と$Y$のペアに関して共に正または共に負であれば正の数として，またその逆であれば負の値として出てくることがわかる．

Theorem 2.4 (共分散の計算) 確率変数$X,Y$の共分散は次のように計算することができる． $$\begin{align} \rm Cov(X,Y) &= E[(X-\mu_X)(Y-\mu_Y)] \\ &= E[XY] - \mu_X \mu_Y \end{align}$$

また，確率変数$X,Y$の和の分散は共分散を用いて次のように表現することもできる．

$$\begin{align} \tag{2.9} V[X \pm Y] &= V[X] + V[Y] \pm 2 \rm Cov(X,Y) \end{align}$$

Exercise 2.8 (和の分散と共分散) (2.9)式が成り立つことを確認せよ．

また，$X,Y$を一次変換したものの共分散は加減の影響を受けないことが知られている．すなわち $X' = a + bX, Y' = c + dY$とした時に，$\rm Cov(X', Y') = bd \rm Cov(X,Y)$となる． これについて証明は課題としておく．