確率分布

離散確率分布の場合と連続確率分布の場合を含む形では,累積分布関数[CDF] $F(x)$ が存在し,

• $F(x) = P(X \leq x)$
• $x_1 < x_2 \Rightarrow F(x_1) \leq F(x_2)$ （単調非減少）
• $\lim_{h \to 0^+} F(x+h) = F(x)$ （右連続）
• $\lim_{x \to -\infty} F(x) = 0, \lim_{x \to \infty} F(x) = 1$

導出

$F(x)$ が離散確率分布の累積分布関数であるとき,対応する確率質量関数 $p(x)$ は以下のように定義される.\[ p(x) = F(x) - \lim_{y \to x^-} F(y) \]この $p(x)$ は以下の条件を満たす：

• 非負性: $\forall x, p(x) \geq 0$
• 正規化条件: $\sum_{x} p(x) = 1$

$F(x)$ は単調非減少なので,\[p(x) = F(x) - \lim_{y \to x^-} F(y) \geq 0\]となり非負性を満たす.

次に,\[\begin{eqnarray}\sum_{x} p(x) &=& \sum_{x} [F(x) - \lim_{y \to x^-} F(y)]\\&=& \lim_{x \to \infty} F(x) - \lim_{x \to -\infty} F(x) = 1 - 0 = 1\end{eqnarray}\]となるので正規化条件を満たす◻︎

$F(x)$ が連続確率分布の累積分布関数であり,微分可能であるとき,対応する確率密度関数 $f(x)$ は以下のように定義される：\[f(x) = \frac{d}{dx}F(x) \]この $f(x)$ は以下の条件を満たす：

• 非負性: $\forall x, f(x) \geq 0$
• 正規化条件: $\int_{-\infty}^{\infty} f(x) dx = 1$

ここで,$F(x)$ は単調非減少なので,その導関数 $f(x) \geq 0$ は非負性を満たす.

次に,\[\begin{eqnarray}\int_{-\infty}^{\infty} f(x) dx &=& \int_{-\infty}^{\infty} \frac{d}{dx}F(x) dx\\&=& \lim_{x \to \infty} F(x) - \lim_{x \to -\infty} F(x) = 1 - 0 = 1\end{eqnarray}\]となるため正規化条件も満たす◻︎

Mathematics is the language with which God has written the universe.