Processing math: 0%

二項分布と正規分布

二項分布と正規分布の関係

二項分布 は,試行回数 n が大きくなるにつれて正規分布 N(np, np(1-p)) に近づく.すなわち,二項分布を標準化した確率変数は標準正規分布に近づく.

ベルヌーイ試行をn回繰り返す二項分布を考える.

成功確率をpとし,成功回数をXとすると,P(X=k)=(nk)pk(1p)nk

ここで,中心極限定理を適用するため,以下の変数変換を行う.Z=Xnpnp(1p)

このとき,n \to \inftyにおいて,Zは標準正規分布に従う.

なぜならば,まず、二項分布の特性関数\phi_X(t)を考えると,ϕX(t)=(peit+(1p))n

一般に,確率変数 Y が線形変換 Y = aX + ba, b は定数)の場合,特性関数は以下の関係を満たすϕY(t)=eibtϕX(at)

標準化変数 Z の変換を上記の形に合わせると,Z=1np(1p)X+npnp(1p)

従って,a=1np(1p)b=npnp(1p)

これを特性関数の変換公式に適用すると,ϕZ(t)=exp(inpnp(1p)t)ϕX(tnp(1p))

指数部分を整理すると,exp(inpnp(1p)t)=exp(nptnp(1p))

以上より,標準化された変数Zの特性関数\phi_Z(t)は,ϕZ(t)=exp(nptnp(1p))ϕX(tnp(1p))

\log(1+x)のテイラー展開を用いて,logϕZ(t)=nlog(1+p(eit/np(1p)1))

e^{ix}のテイラー展開を適用し,n \to \inftyの極限をとると,limnlogϕZ(t)=t22

従って,limnϕZ(t)=et2/2

これは標準正規分布の特性関数に他ならない.

別の導出法

二項分布の確率質量関数[PMF] は次のように与えられる.P(X=k)=(nk)pk(1p)nkここで,X は成功回数,n は試行回数,p は成功確率である.対数を取ると次のようになる.lnP(X=k)=ln(nk)+klnp+(nk)ln(1p)スターリングの近似を用いると,二項係数の対数は次のように近似できる.ln(nk)nlnnklnk(nk)ln(nk)12ln(2πnp(1p))次に,k を次のように変換する.k=np+znp(1p),ここで z は標準化された変数である.この変換により,knp の周りで変動するようになる.次に,k \ln k を展開する.まず,knp + z\sqrt{np(1-p)} に置き換える.klnk=(np+znp(1p))ln(np+znp(1p))この式をテイラー展開する.まず,\ln(np + z \sqrt{np(1-p)})np の周りで展開する.z が小さいと仮定すると,ln(np+znp(1p))=ln(np)+znp(1p)npz2np(1p)2(np)2+O(z3)これを整理すると次のようになる.ln(np+znp(1p))=ln(np)+znp(1p)z22np(1p)+O(z3)次に,この展開を k \ln k に代入する.klnk=(np+znp(1p))[ln(np)+znp(1p)z22np(1p)+O(z3)]分配法則を使って展開すると,klnk=npln(np)+znp(1p)znp(1p)npz22np(1p)+O(z3)整理すると,klnk=npln(np)+z2z22(1p)+O(z3)次に,k \ln p(n-k) \ln (1-p) を展開する.klnp=(np+znp(1p))lnp=nplnp+znp(1p)lnpnp.z に関する項は一次の影響しかないため,無視することができる.最終的には定数項 np \ln p だけが残る.また,(nk)ln(1p)=n(1p)ln(1p)znp(1p)ln(1p)npこちらも一次項は無視できる.全ての項を合わせると,最終的な対数確率質量関数は次のようになる.lnP(X=k)=z22+const.指数関数に戻すと,次のように近似される.P(X=k)12πnp(1p)exp((knp)22np(1p))

この結果,二項分布は n が大きい場合に次の正規分布で近似されることが示される.XN(np,np(1p))

留意点

正規分布のように指数関数を使い,それを全区間で積分して正規化する場合には,ガウス積分ex²dx=πの関係から確率密度関数に\piが出てくる.

Mathematics is the language with which God has written the universe.





















プロセス 深層ボルツマンマシン[DBM]を用いたAdS/CFT対応 P値 マルコフ核 シュレーディンガー橋問題の簡略化 Triton