二項分布

二項分布

さて, 1回の試行で「Yes」がでる確率が \( p \) である事象を \( n \) 回繰り返す中で「Yes」が起きる回数を(離散型)確率変数 \( X \) とする. このような試行の結果, ちょうど \( k \) 回「Yes」がでる確率, すなわち \( X=k \) となる確率 \( P(X=k) \) は次式によって与えられる. \[\begin{aligned} P(X=k) &= \frac{n ! }{k ! \qty( n – k ) ! }p^{k }\qty( 1-p )^{n-k } \\ &= \frac{n ! }{k ! \qty( n – k ) ! }p^{k }q^{n-k } \quad . \end{aligned}\] ここで, 二項係数 \[{}_{n}C_{k} =\frac{n ! }{k ! \qty( n – k ) ! } \notag \] を用いると, 確率 \( P(X=k) \) は \[P(X=k) = {}_{n}C_{k} p^{k }q^{n-k } \label{bP}\] と書くことができる.

この離散型確率変数 \( X \) が式\eqref{bP}にしたがう確率分布のことを二項分布といい, 記号 \( B\qty( n ,p ) \) であらわされる.

二項分布の確率変数は記号 \( k \) か \( r \) が用いられることが多く, このページでも確率変数を記号 \( X \) の代わりに \( k \) を用いることにする.

二項分布の規格化

二項分布 \( B\qty( n, p ) \) の確率分布 \[f(x_{i}) = {}_{n}C_{x_{i}} p^{x_{i} }q^{n-k } \notag \] が, 確率分布が満たすべき規格化条件の式 \[\sum_{i} f(x_{i}) = 1 \label{pnat2}\] を満たしていることを示しておこう. ここで \( \sum_{i} \) は取り得る \( x_{i} \) の値すべてについて和を取ることを意味している.

今の場合, \( B\qty( n, p ) \) は \( n \) 回の試行を行うので, 確率変数 \( k = x_{i} \) が取り得る値というのは, \( x_{1}=0, x_{2}=1, x_{3}=2, \cdots , x_{n+1}=n \) といった値を取り得る. したがって, \[\begin{aligned} \sum_{i}^{} f(x_{i}) &= \sum_{i=1}^{n+1} {}_{n}C_{x_{i}} p^{x_{i} }q^{n-x_{i} } \\ &= \sum_{k=0}^{n} {}_{n}C_{k} p^{k }q^{n-k } \\ &= \qty( p + q )^{n} \\ &= \qty( 1 )^{n} = 1 \end{aligned}\] となり, 二項分布は規格化条件の式\eqref{pnat2}を満たしていることがわかる^[1]途中, 二項展開の公式 \[ \qty( a+b )^{n} = \sum_{k=0}^{n}{}_{n}C_{k}a^{k}b^{n-k}\] を用いた..

二項分布の性質

証明は後に回して, 二項分布 \( B(n,p) \) の期待値 \( \mu \) と分散 \( V \) , 標準偏差 \( \sigma \) はそれぞれ次のように与えられる. \[\mu = np\] \[\sigma^2 = V = np\qty( 1 – p ) \] これらの結論から導き出される二項分布の特徴として, 次のようなものがあげられる.

いま, 「Yes」がでる確率 \( p \) が \( p=\frac{1}{2} \) のとき, \( n \) 回の独立試行に対する二項分布の期待値 \( \mu \) は \[\mu = \frac{n}{2} \notag \] である. さらにこのとき, \[\begin{aligned} P(X=k) & = {}_{n}C_{k}p^{k}(1-p)^{n-k} \\ & = {}_{n}C_{k}\qty( \frac{1}{2} )^{k} \qty( \frac{1}{2} )^{n-k} \\ & = {}_{n}C_{k}\qty( \frac{1}{2} )^{n} \end{aligned}\] \[\begin{aligned} P(X=\qty( n-k )) & = {}_{n}C_{n-k}p^{n-k}(1-p)^{n} \\ & = {}_{n}C_{k}\qty( \frac{1}{2} )^{n} \end{aligned}\] より, \[P(X=k) = P(X=(n-k)) \notag \] が成立する. したがって, \( B(n,\frac{1}{2}) \) の二項分布は \( k=n-k \) となる \( k = \frac{n}{2} \) に対して対称的な分布となることがわかる. また, \( p=\frac{1}{2} \) 以外の場合, 二項分布は若干歪んだ分布となる.

下図には, \( n = 50 \) に対していくつかの \( p \) を仮定し( \( p = 0.1, 0.5, 0.75 \) ), ある程度の回数試行を繰り返した結果得られる相対ヒストグラムを描いた.

\( p = 0.5 \) の二項分布 \( B(50, 0.5 ) \) は \( 50/2 = 25 \) に対して対称的な分布に近いものが得られていることがわかる. この対称性の良さは試行の回数を増やせば増やすほどよいものとなる.

二項分布の期待値の導出

「Yes」が得られる確率 \( p \) の試行を \( n \) 回繰り返した結果, \( k \) 回の「Yes」が得られる二項分布 \( B(n,k) \) に従う確率変数 \( X=k \) の期待値を求めよう.

ただし, 「Yes」がでる回数の期待値は1回の試行で生じる確率が \( p \) であるとしているので, \( n \) 回試行時の確率変数の期待値は \( np \) となることは事前に予測されており, これを確かめる作業といってもよい.

以下, 二項係数 \( {}_nC_{k} \) と \( {}_{n-1}C_{k-1} \) の間について成り立つ式 \[{}_nC_{k} = \frac{n }{k } {}_{n-1}C_{k-1} \notag \] を利用して二項分布の期待値を求めると^[2]念のため, 証明を与えておく. \[\begin{aligned} {}_nC_{k} &= \frac{n!}{k! \qty( n -k )!} \\ &=\frac{n }{k } \cdot \frac{\qty( n -1 )!}{\qty( k-1 )! \qty( \qty( n -1 ) – \qty( … Continue reading, \[\begin{aligned} E\qty( X ) &=\sum_{k=0 }^{n} k P\qty( X =k ) \\ &=\sum_{k=0 }^{n } k \,{}_{n}C_{k} p^{k } q^{n-k } \\ &= 0 \,{}_{n}C_{0} p^{0 } q^{n } + \sum_{k=1 }^{n } k \,{}_{n}C_{k} p^{k } q^{n-k } \\ &=\sum_{k=1 }^{n } k \,{}_{n}C_{k} p^{k } q^{n-k } \\ &=\sum_{k=1 }^{n } k \frac{n}{k} \,{}_{n-1}C_{k-1} p^{k} q^{n-k } \\ &= np \sum_{k=1 }^{n } {}_{n-1}C_{k-1} p^{k-1} q^{n-k } \end{aligned}\] ここで, \( k^{\prime}=k-1 \) とすると, \[\begin{aligned} &= np \sum_{k^{\prime}=0 }^{n-1 } {}_{n-1}C_{k^{\prime}} p^{k^{\prime}} q^{\qty( n -1 ) – k^{\prime} } \\ &= np \qty( p + q )^{n- 1} \\ &= np \quad . \end{aligned}\] となり, 当初の予想通り, 二項分布 \( B(n,p) \) の期待値は \( np \) であることがわかった.

この証明方法について別解を二つほど用意したので興味があれば見てみてほしい.

二項分布の分散の導出

二項分布の分散 \( V(X) \) は期待値 \( \mu \) を用いて次式の左辺で定義され, 右辺のように書き換えることが出来るのであった. \[ \sum_{i=1}^{n} \qty( x_{i} – \mu )^2 f(x_{i}) =E(X^2) – \left\{E(X) \right\}^2 \] この右辺を期待値 \( E(X) \) が持つ線形性を用いて書き換えると, \[\begin{aligned} V\qty( X ) &= E\qty( X^2 ) – \qty( E\qty( X ) )^2 \\ &= E\qty( X(X-1) + X ) + \qty( E\qty( X ) )^2 \\ &= E\qty( X(X-1) ) + E\qty( X ) – \qty( E\qty( X ) )^2 \quad . \end{aligned}\] ここで, \( E\qty( X(X-1) ) \) について, \[\begin{aligned} E\qty( X(X-1) ) &=\sum_{k=0 }^{n} k\qty( k-1 ) {}_{n}C_{k} p^{k } q^{n-k } \\ &=\sum_{k=2 }^{n} k\qty( k-1 ) {}_{n}C_{k} p^{k } q^{n-k } \\ &= \sum_{k=2 }^{n} k\qty( k-1 ) \frac{n}{k} {}_{n-1}C_{k-1} p\cdot p^{k -1 } q^{n-k } \\ &= \sum_{k=2 }^{n} k\qty( k-1 ) \frac{n}{k} \cdot \frac{n-1}{k-1} {}_{n-2}C_{k-2} p^2\cdot p^{k -2 } q^{n-k } \\ &= n\qty( n -1 ) p^2 \sum_{k=2 }^{n} {}_{n-2}C_{k-2} p^2\cdot p^{k -2 } q^{n-k } \\ & = n\qty( n -1 ) p^2 \underbrace{\sum_{\qty( k-2 )= 0 }^{n-2} {}_{n-2}C_{k-2} p^2\cdot p^{k -2 } q^{\qty( n -2 ) – \qty( k -2 ) }}_{= \qty( p + q )^{n- 2}} \\ &= n\qty( n -1 ) p^2 \qty( p + q )^{n- 2} \\ &= n\qty( n -1 ) p^2 \end{aligned}\] という関係式が成立するので, \[\begin{aligned} V( X ) & = E\qty( X(X-1) ) + E\qty( X ) – \qty( E\qty( X ) )^2 \\ & = n\qty( n -1 ) p^2 + np – \qty( n p )^2 \end{aligned}\] \[ \therefore \ V( X )= npq \] を導くことができた.

標準偏差 \( \sigma \) は分散の平方根で定義されるので, \[\sigma = \sqrt{V} = \sqrt{np\qty( 1-p )}\] となる.