条件付き分散

$$Var(X|Y)=E[(X-E[X|Y]{)}^2|Y]$$を展開すると,$$E[X^2-2XE[X|Y]+(E[X|Y]{)}^2|Y]$$ここで,条件付き期待値の線形性, $E[aX + b|Y] = aE[X|Y] + b$ を用いると,$$E[X^2|Y]-E[2XE[X|Y]|Y]+E[(E[X|Y]{)}^2|Y]$$さらに,$E[X|Y]$ は $Y$ の関数なので,条件付き期待値の外に出せる.$$E[X^2|Y]-2E[X|Y]E[X|Y]+(E[X|Y]{)}^2$$項をまとめて,$$E[X^2|Y]-2(E[X|Y]{)}^2+(E[X|Y]{)}^2$$つまり,$$E[X^2|Y]-(E[X|Y]{)}^2$$となる□

連続確率変数の場合の条件付き分散は,$$Var(X|Y=y)={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}(x-E[X|Y=y]{)}^2{f}_{X|Y}(x|y)dx$$離散確率変数の場合の条件付き分散は,$$Var(X|Y=y)=\sum _x(x-E[X|Y=y]{)}^{2}P(X=x|Y=y)$$ここで, $f_{X|Y}(x|y)$ は $X$ の $Y$ に対する条件付き確率密度関数, $P(X=x|Y=y) は$X$の$Y$ に対する条件付き確率である.

条件付き分散の性質

• 非負性: $Var(X|Y) \geq 0$
• 全分散の法則: $Var(X) = E[Var(X|Y)] + Var(E[X|Y])$
• 単調性：下記参照.
• 条件付き Jensen の不等式:下記参照.

条件付き分散の一般的定義

確率空間 $(\Omega, \mathit{F}, P)$ 上の可積分な確率変数 $X$ と $\sigma$-代数 $\mathit{G} \subseteq \mathit{F}$ に対して,条件付き分散 $Var(X|\mathit{G})$ は以下のように定義される.$$Var(X|\mathit{G})=E[(X-E[X|\mathit{G}]{)}^2|\mathit{G}]$$ここで,$E[X|\mathit{G}]$ は $X$ の $\mathit{G}$ に関する条件付き期待値である.

この定義は以下の性質を満たす $\mathit{G}$-可測な確率変数である.$${\int }_{A}Var(X|\mathit{G})dP={\int }_A(X-E[X|\mathit{G}]{)}^{2}dP,\mathrm{\forall }A\in \mathit{G}$$

条件付き分散の性質

• 非負性: $Var(X|\mathit{G}) \geq 0$ a.s.
• 全分散の法則: $Var(X) = E[Var(X|\mathit{G})] + Var(E[X|\mathit{G}])$
• 単調性: もし $\mathit{H} \subseteq \mathit{G}$ ならば,$E[Var(X|\mathit{G})|\mathit{H}] \leq Var(X|\mathit{H})$ a.s.
  条件付き分散は減少する傾向があるということを意味する.
• 条件付き Jensen の不等式: $$Var(g(X)|\mathit{G})\le E[g^2(X)|\mathit{G}]-(E[g(X)|\mathit{G}]{)}^2$$但し, $g$ は実数値関数.関数適用後の条件付き分散の上界を与える.

Mathematics is the language with which God has written the universe.