標準正規分布

正規分布の復習

期待値 \( \mu \) , 標準偏差 \( \sigma \) の正規分布を記号 \( N(\mu, \sigma^2) \) であらわす.

また, 正規分布の確率密度関数を次式で定義する. \[f\qty( x ) = \frac{1}{\sqrt{2 \pi \sigma^2}} \exp{\qty[ – \frac{\qty( x – \mu )^2}{2 \sigma^2 } ]} \quad . \notag \] ここで, \( \exp \) は \[\exp{A} \coloneqq e^{A} \notag\] を表す記号である.

標準正規分布

確率変数の標準化

確率変数 \( X \) が正規分布 \( N(\mu, \sigma^2) \) に従うとする. このとき, 次のような新しい変数 \( Z \) を定義する. \[Z \coloneqq \frac{X – \mu}{\sigma} \quad . \notag \] このような変数変換を確率変数の標準化という.

標準化された変数 \( Z \) は \( N(0, 1^2) \) の標準正規分布であり, 次式の確率密度関数に従う確率変数となっている. \[f(z) = \frac{1}{\sqrt{2\pi}}\exp{\qty[ – \frac{z^{2} }{2 } ]} \quad . \notag \] このことの証明は補足にまわし, 標準正規分布の確立密度関数を下図に示す.

正規分布の標準化

確率変数 \( X \) が正規分布 \( N(\mu, \sigma^2) \) に従う確率変数としたとき, 定数 \( a \) , \( b \) を用いた新たな変数 \[Y= a X + b \notag\] は正規分布 \( N(a\mu+b, a^2\sigma^2) \) に従うことを示すことができる.

規格化定数を除いた正規分布の確率密度関数 \[f(x) \propto \exp{\qty[ – \frac{\qty( x – \mu )^{2}}{2\sigma^2} ]} \notag\] を式変形していくと, \[\begin{aligned} f(x) & \propto \exp{\qty[ – \frac{\qty( x – \mu )^{2}}{2\sigma^2} ]} \\ & = \exp{\qty[ – \frac{\qty( ax-a\mu )^{2} }{2 a^{2} \sigma^2 } ]} \\ f(y) & \propto \exp{\qty[ – \frac{\qty( y-b -a\mu )^{2} }{2 a^{2} \sigma^2 } ]} \quad (\because \ y =ax+b) \\ & = \exp{\qty[ – \frac{\left\{y – \qty( a\mu +b ) \right\}^{2} }{2 \qty( a \sigma )^2 } ]} \end{aligned}\] となるので, 確率変数 \( Y \) は期待値が \( a\mu+b \) , 分散が \( a^2\sigma^2 \) の正規分布 \( N(a\mu+b, a^2\sigma^2) \) に従うと言うことができる.

ここで \( y=z \) , \( \displaystyle{a=\frac{1}{\sigma}} \) , \( \displaystyle{b= – \frac{\mu}{\sigma}} \) とすると, \[\begin{aligned} f(z) & \propto \exp{\qty[ – \frac{\left\{z – \qty( \mu +b ) \right\}^{2} }{2 \qty( a \sigma )^2 } ]} \\ & = \exp{\qty[ – \frac{z^{2} }{2 \cdot 1^2 } ]} \end{aligned}\] である.

つぎに, 規格化定数を \( N \) として, 関数 \( f(z) \) を次のようにあらわそう. \[f(z) = N \exp{\qty[ – \frac{z^{2} }{2 \cdot 1^2 } ]} \notag\] この定数 \( N \) の値は \( f(z) \) が確率密度関数の規格化条件の式を満たすように決められる.

正の定数 \( a \) として成り立つ積分公式 \[\int_{ – \infty}^{\infty} \exp{\qty[ -ax^2 ] }\dd{x}= \sqrt{\frac{\pi}{a} } \notag\] を用いて, \[\begin{aligned} \int_{ – \infty}^{\infty} f(z)\dd{z}&= \int_{ – \infty}^{\infty} N \exp{\qty[ – \frac{z^{2} }{2 \cdot 1^2 } ]} \dd{y}\\ & \phantom{=} = N \sqrt{2 \pi} \end{aligned}\] となるので, \( N=\frac{1}{\sqrt{2 \pi}} \) とした正規分布 \( N(0, 1^2) \) の確率密度関数 \[f(z) = \frac{1}{\sqrt{2\pi}}\exp{\qty[ – \frac{z^{2} }{2 \cdot 1^2 } ]} \notag\] は規格化されたものであることを示すことができた.

この標準正規分布がなぜ重要なのかについて触れておこう.

いま, 正規分布 \( N(\mu, \sigma^2) \) に従う確率変数 \( X \) が \( \qty( a, b ) \) の範囲内で観測される確率 \( P(a < X < b) \) は \[\begin{aligned} a^{\prime} &= \frac{a – \mu}{\sigma} \\ b^{\prime} &= \frac{b – \mu}{\sigma} \end{aligned}\] を用いて, \[\begin{aligned} P(a < X < b ) &= P(\frac{a – \mu}{\sigma} < \frac{X – \mu}{\sigma} < \frac{b – \mu}{\sigma} ) \\ &= P(a^{\prime} < Z < b^{\prime} ) \end{aligned}\] と計算することができる.

これは, 確率変数 \( X \) が \( \qty( a, b ) \) の範囲内で観測される確率 \( P(a < X < b) \) と, 変数 \( Z \) が \( \qty( a^{\prime}, b^{\prime} ) \) の範囲内で観測される確率 \( P(a^{\prime} < X < b^{\prime}) \) とを対応付けることができることを示している.

したがって, 標準正規分布で確率を計算する術をもっておけば, (標準正規分布ではない)ほかの正規分布に従う確率変数の値がある範囲内に得られる確率も求めることができるのである.

次節ではこの標準正規分布で確率を計算する術を議論する.

標準正規分布の累積分布関数

確率変数 \( Z \) の値が \( b \) 未満となる確率 \( P(z<b) \qty( =P( – \infty<z<b) ) \) について考えてみよう^[1]「未満」か「以下」かはここでは重要ではない. 教科書の流儀によって等号の有り無しは変わってくる..

単純な発想では次のような積分を実行することで値が得られそうである. \[\int_{ – \infty}^{b} \frac{1}{\sqrt{2\pi}}\exp{\qty[ – \frac{z^2}{2} ]}\dd{z}\label{Pzpro}\] しかしながら, この積分結果は初等的な関数ではあらわすことができないのである.

そこで, \( – \infty \) から \( z \) までの範囲で標準正規分布を積分した式\eqref{Pzpro}を \( z \) の関数とみなし, 累積分布関数または分布関数とよび記号 \( \Phi(z) \) (ファイ ゼット)であらわすことにする. そして, \( z \) に応じた \( \Phi(z) \) の値を計算機で数値計算した結果を数表としてとっておき, その値を参照することが一般的である. このような事情から統計学の教科書にはかならず数表が付いているのである. \[\begin{aligned} \Phi \qty( z ) \coloneqq & P\qty( – \infty < z < z ) \\ =& \int^{z }_{ – \infty } \frac{1}{\sqrt{2 \pi }} \exp{\qty[ { – \frac{z^2 }{2 }} ]} \end{aligned}\] この \( \Phi(z) \) は関数で書き表すと幾分複雑なようにも見えるが, 図的な解釈をつけるとその意味は明瞭となる. グラフ的には, 下図のように, 標準正規分布と \( t \) 軸の間の, \( t= – \infty \) から \( t=z \) までの領域で囲まれた面積が \( \Phi(z) \) なのである.

つぎに, 標準正規分布 \( \qty( 0 , 1^2 ) \) における確率 \( P(a<z<b) \) を求めてみよう. これは区間 \( \qty( a , b ) \) で標準正規分布を積分した \[P(a<z<b) = \int_{a }^{b } \frac{1}{\sqrt{2 \pi }} \exp{\qty( { – \frac{z^2 }{2 }} )} \dd{z}\notag \] で与えられる. ただし, 我々が数表として持っている値はある値未満となる確率だけであるので, この値を直接計算することはできない.

そこで, 次のように式変形していこう. この式変形は下に示すような図的な意味もあわせて抑えておくと大変納得の行くものである. \[\begin{aligned} P(a<z<b) &= \int_{a }^{b } \frac{1}{\sqrt{2 \pi }} \exp{\qty( { – \frac{z^2 }{2 }} )} \dd{z} \\ &= \int^{b }_{ – \infty } \frac{1}{\sqrt{2 \pi }} \exp{\qty( { – \frac{z^2 }{2 }} )} \dd{z}\, – \int^{a }_{ – \infty} \frac{1}{\sqrt{2 \pi}} \exp{\qty( { – \frac{z^2 }{2 }} )} \dd{z}\\ &= \Phi \qty( b ) – \Phi \qty( a ) \end{aligned}\] こうして, ある区間に確率変数の値が得られる確率は分布関数 \( \Phi \) のみで記述することができるのである.

また, \( P(z>b) \) となる確率は全確率 \( 1 \) から \( P(z<b)=\Phi(b) \) を引くことで求めることができる. これは, 標準正規分布は \( z = 0 \) について対称であることに注目し, \( P(z>b) \) の確率は \( P(z<-b) \) の確率と全く同じであることから導かれる.

このことも下図と積分を対応させれば納得がいくであろう.

したがって, \[\Phi \qty( -z ) = 1 – \Phi \qty( z ) \notag \] となり, 確率変数が \( \qty( -a , a ) \) の範囲内に値が得られる確率 \( P(-a<z<a) \) は \[\begin{aligned} P(-a<z<a) &= \Phi \qty( a ) – \Phi \qty( -a ) \\ &= \Phi \qty( a ) – \left\{1 – \Phi \qty( a )\right\} \\ &= 2 \Phi \qty( a ) – 1 \end{aligned}\] で計算することができる.

具体例

物理学や統計学でよく用いられる計算の例ついて話しておこう.

正規分布 \( N(\mu, \sigma^2) \) (確率変数 \( X \) )と標準正規分布 \( N(0, 1^2) \) (確率変数 \( Z \) )において, \[P(a < X < b ) = P\qty( \frac{a – \mu}{\sigma} < Z < \frac{b – \mu}{\sigma} ) \notag \] が成立することを利用すると, 正規分布 \( N(\mu, \sigma^2) \) において, 確率変数 \( X \) の値が \( ( \mu – a \sigma , \mu + a \sigma) \) の領域に含まれる確率がどれだけであるかは \[\begin{aligned} & P(\mu-a\sigma < X < \mu+a\sigma ) = P(-a < Z < a ) \\ & \phantom{=} = 2 \Phi \qty( a ) – 1 \end{aligned}\] と累積分布関数 \( \Phi \) を用いて計算することができるのである.

たとえば, 正規分布 \( N(\mu, \sigma^2) \) において \( ( \mu – \sigma , \mu + \sigma) \) の領域に存在するデータの割合は次式と数表を用いることで計算することができる. \[\begin{aligned} P( \mu – \sigma < x < \mu + \sigma) &= 2\Phi \qty( 1 ) -1 \\ &\phantom{=} = 2 \cdot 0.8413 -1 \\ &\phantom{=} = 0.6826 \end{aligned}\] と計算することができ, 正規分布 \( N(\mu, \sigma^2) \) において期待値 \( \mu \) から \( \pm \sigma \) の範囲内に確率変数の値が得られる確率は約 \( 68\% \) であることがわかる.

下表は物理の実験の精度や到達感度を評価する時によく用いる \( a = 1, 2, 3, 4, 5 \) の確率を示している.

\( a \)	\( P(z<a)=\Phi(a) \)	\( P(-a<z<a)=2\Phi(a) – 1 \)
\( 1 \)	0.8413447	0.6826895
\( 2 \)	0.9772498	0.9544997
\( 3 \)	0.9986501	0.9973002
\( 4 \)	0.9999683	0.9999367
\( 5 \)	0.9999997	0.9999994

この表によれば, 正規分布 \( N(\mu, \sigma^2) \) に従う確率変数が期待値 \( \mu \) から \( \pm5\sigma \) の範囲より離れた場所でえられる確率は \[1 – 0.9999994 = 0.0000006 = 6 \times 10^{-5} \notag\] と, とてつもなく低い確率であることがわかる.