条件付き分散

\[Var(X|Y) = E[(X - E[X|Y])^2|Y]\]を展開すると,\[E[X^2 - 2XE[X|Y] + (E[X|Y])^2|Y]\]ここで,条件付き期待値の線形性, $E[aX + b|Y] = aE[X|Y] + b$ を用いると,\[E[X^2|Y] - E[2XE[X|Y]|Y] + E[(E[X|Y])^2|Y]\]さらに,$E[X|Y]$ は $Y$ の関数なので,条件付き期待値の外に出せる.\[E[X^2|Y] - 2E[X|Y]E[X|Y] + (E[X|Y])^2\]項をまとめて,\[E[X^2|Y] - 2(E[X|Y])^2 + (E[X|Y])^2\]つまり,\[E[X^2|Y] - (E[X|Y])^2\]となる□

連続確率変数の場合の条件付き分散は,\[Var(X|Y=y) = \int_{-\infty}^{\infty} (x - E[X|Y=y])^2 f_{X|Y}(x|y) dx\]離散確率変数の場合の条件付き分散は,\[Var(X|Y=y) = \sum_x (x - E[X|Y=y])^2 P(X=x|Y=y)\]ここで, $f_{X|Y}(x|y)$ は $X$ の $Y$ に対する条件付き確率密度関数, $P(X=x|Y=y) は $X$ の $Y$ に対する条件付き確率である.

条件付き分散の性質

• 非負性: $Var(X|Y) \geq 0$
• 全分散の法則: $Var(X) = E[Var(X|Y)] + Var(E[X|Y])$
• 単調性：下記参照.
• 条件付き Jensen の不等式:下記参照.

条件付き分散の一般的定義

確率空間 $(\Omega, \mathcal{F}, P)$ 上の可積分な確率変数 $X$ と $\sigma$-代数 $\mathcal{G} \subseteq \mathcal{F}$ に対して,条件付き分散 $Var(X|\mathcal{G})$ は以下のように定義される.\[Var(X|\mathcal{G}) = E[(X - E[X|\mathcal{G}])^2|\mathcal{G}]\]ここで,$E[X|\mathcal{G}]$ は $X$ の $\mathcal{G}$ に関する条件付き期待値である.

この定義は以下の性質を満たす $\mathcal{G}$-可測な確率変数である.\[\int_A Var(X|\mathcal{G}) dP = \int_A (X - E[X|\mathcal{G}])^2 dP, \quad \forall A \in \mathcal{G}\]

条件付き分散の性質

• 非負性: $Var(X|\mathcal{G}) \geq 0$ a.s.
• 全分散の法則: $Var(X) = E[Var(X|\mathcal{G})] + Var(E[X|\mathcal{G}])$
• 単調性: もし $\mathcal{H} \subseteq \mathcal{G}$ ならば,$E[Var(X|\mathcal{G})|\mathcal{H}] \leq Var(X|\mathcal{H})$ a.s.
  条件付き分散は減少する傾向があるということを意味する.
• 条件付き Jensen の不等式: \[Var(g(X)|\mathcal{G}) \leq E[g^2(X)|\mathcal{G}] - (E[g(X)|\mathcal{G}])^2\]但し, $g$ は実数値関数.関数適用後の条件付き分散の上界を与える.

Mathematics is the language with which God has written the universe.