変数変換と確率密度関数の変化

まず,確率の保存から以下が成り立つ.\[P(a \leq X \leq b) = P(g(a) \leq Y \leq g(b))\]次に確率密度関数の定義より,\[(a \leq X \leq b) = \int_a^b f(x) dx\]ここで,$y = g(x)$ とすると, $x = g^{-1}(y)$ となる.

これを微分すると, \[dx = \frac{d}{dy}g^{-1}(y) dy = \frac{1}{g'(g^{-1}(y))} dy\]

積分の変数変換を考えると,\[\begin{eqnarray}P(g(a) \leq Y \leq g(b)) &=& \int_{g(a)}^{g(b)} h(y) dy \\ &=& \int_a^b f(x) dx \\ &=& \int_{g(a)}^{g(b)} f(g^{-1}(y)) \cdot \frac{1}{|g'(g^{-1}(y))|} dy\end{eqnarray}\]ここで, $h(y)$ は $Y$ の確率密度関数であり,絶対値記号は $g$ が単調減少の場合を考慮している.

両辺を比較すると,\[h(y) = \frac{f(g^{-1}(y))}{|g'(g^{-1}(y))|}\]したがって,新たな確率変数 $Y$ の確率密度関数は次のように表される.\[h(y) = \frac{f(g^{-1}(y))}{|g'(g^{-1}(y))|}\]この式において,$f(g^{-1}(y))$ は元の確率密度を新しい変数 $y$ で表現したものであり,$\frac{1}{|g'(g^{-1}(y))|}$ は変換による確率密度の伸縮を補正する項として解釈できる

なお,絶対値記号は, $g$ が単調減少の場合に確率密度が負にならないようにするために必要.また,この公式は1次元の場合であり,多次元の場合はヤコビ行列式を用いる必要がある.

Mathematics is the language with which God has written the universe.