同時分布

同時分布

離散型確率変数 \( X \) , \( Y \) について, \( X \) と \( Y \) がそれぞれある値 \( x_{i} \) , \( y_{j} \) として同時に観測される確率 \( P(X=x_{i},Y=y_{j}) \) を次のように書き表すことにする. \[P(X=x_{i},Y=y_{i}) = h(x_{i},y_{j}) \quad . \notag\] ここで新しく導入した関数 \( h(x,y) \) を離散型確率変数 \( X \) , \( Y \) の同時分布という.

\( X \) の取り得る値が \( x_{1}, x_{2}, \cdots , x_{n} \) , \( Y \) の取り得る値が \( y_{1}, y_{2}, \cdots , y_{m} \) であるとすると, 同時分布 \( h(x, y) \) は次の性質を満たしている必要がある. \[\begin{align} & 0 \le h(x_{i},y_{j}) \label{disnat1} \\ & \sum_{i=1}^{n} \sum_{j=1}^{m} h(x_{i},y_{j}) = 1 \label{disnat2} \end{align}\] 式\eqref{disnat2}は規格化条件と呼ばれる.

離散型確率変数の周辺分布

離散型確率変数 \( X \) , \( Y \) の同時分布を \( h(x, y) \) とする. このとき, 次式で定義されるような関数 \( f(x) \) , \( g(y) \) をそれぞれ \( X \) の周辺分布, \( Y \) の周辺分布という. \[\begin{align} f(x) &= \sum_{j=1}^{m}h(x,y_{j}) \label{dismarx} \\ g(y) &= \sum_{i=1}^{n}h(x_{i},y) \label{dismary} \end{align}\] また, 上記の性質からも分かるように \( f(x) \) , \( g(y) \) はそれぞれ, \( X \) の確率分布, \( Y \) の確率分布に一致している(確率変数).

例えば, 式\eqref{dismarx}の右辺は全ての \( y_{i} \) に対して具体的な値を代入して総和を計算していることを意味しており, 確率変数 \( X \) のみの(離散的な)関数となっている. したがって, 確率変数 \( X \) のみの関数 \( f(x) \) と書くことが出来る.

同時分布が式\eqref{disnat2}を満たすことを用いながら, 確率変数 \( X \) が取り得る全ての値 \( x \) に対する \( f(x) \) の総和計算を行うと, \[\begin{aligned} \sum_{i=1}^{n}f(x_{i}) &= \sum_{i=1}^{n} \left\{\sum_{j=1}^{m}h(x,y_{j})\right\} \\ &\underbrace{=}_{式\eqref{disnat2}} 1 \end{aligned}\] \[\therefore \ \sum_{i=1}^{n}f(x_{i}) = 1 \notag\] が成立し, \( 0 \le f(x) \) を満たしていることから周辺分布 \( f(x) \) はまさしく離散型確率変数 \( X \) の確率分布と一致していることがわかる.

また, 離散型確率変数 \( X \) , \( Y \) の同時分布 \( h(x,y) \) と, \( X \) と \( Y \) の確率分布 \( f(x) \) と \( g(y) \) について, \[h(x,y) = f(x)g(y) \notag \] が成立する時, \( X \) と \( Y \) は独立であるといい, 一方の確率変数がとる値が他方の確率変数がとる値に全く影響を与えないことを意味している.

同時密度関数

連続型確率変数 \( X \) , \( Y \) について, \( X \) と \( Y \) がそれぞれある微小幅 \( x\sim x+\dd{x} \) , \( y\sim y+\dd{y} \) の間の値となることが同時に観測される確率 \( P(x<X<x+\dd{x}, y<Y<y+\dd{y}) \) を次のように書き表すことにする. \[P(x<X<x+\dd{x}, y<Y<y+\dd{y}) = h(x,y)\dd{x}\dd{y} \quad . \notag\]

また, \( x \) – \( y \) 平面上のある領域を \( D \) とし, その領域 \( D \) 内部で観測される確率 \( P((X,Y)\in D) \) は同時密度関数 \( h(x,y) \) を用いて次式のように書き表すことができる. \[P((X,Y)\in D) = \iint_{D} h(x,y)\dd{x}\dd{y} \notag \]

同時密度関数 \( h(x,y) \) は次の性質を満たしている必要がある. \[\begin{align} & 0 \le h(x,y) \label{connat1} \\ & \int_{ – \infty}^{\infty}\int_{ – \infty}^{\infty} h(x,y)\dd{x}\dd{y} =1 \label{connat2} \end{align}\] 式\eqref{connat2}は規格化条件と呼ばれる.

連続型確率変数の周辺分布

連続型確率変数 \( X \) , \( Y \) の同時密度関数を \( h(x,y) \) とする. このとき, 次式で定義されるような関数 \( f(x) \) , \( g(y) \) をそれぞれ \( X \) の周辺分布, \( Y \) の周辺分布という. \[\begin{align} f(x) &= \int_{ – \infty}^{\infty} h(x,y) \dd{y}\label{conmarx} \\ g(y) &= \int_{ – \infty}^{\infty} h(x,y) \dd{x}\label{conmary} \end{align}\] また, 上記の性質からも分かるように, \( f(x) \) , \( g(y) \) はそれぞれ, \( X \) の確率密度関数, \( Y \) の確率密度関数に一致している.(確率変数)

例えば, 式\eqref{conmarx}の右辺は \( y \) についての定積分を実行しており, その計算結果は \( y \) を含まずに確率変数 \( X \) のみの関数となっている. したがって, 確率変数 \( X \) のみの関数 \( f(x) \) と書くことができる. 同時密度関数 \( h(x,y) \) は式\eqref{connat2}が成立することを用いながら, 確率変数 \( X \) が取り得る全ての値 \( x \) に対する \( f(x) \) の積分計算を行うと, \[\begin{aligned} \int f(x) \dd{x} &= \int_{ – \infty}^{\infty} \left\{\int_{ – \infty}^{\infty} h(x,y) \right\}\dd{x}\dd{y}\\ &\underbrace{=}_{式\eqref{connat2}} 1 \end{aligned}\] \[\therefore \ \int_{ – \infty}^{\infty} f(x) \dd{x} = 1\notag \] が成立し, \( 0 \le f(x) \) を満たしていることから周辺分布 \( f(x) \) はまさしく連続型確率変数 \( X \) の確率密度関数と一致していることがわかる.

また, 連続型確率変数 \( X \) , \( Y \) の同時密度関数 \( h(x,y) \) と, \( X \) と \( Y \) の確率密度関数 \( f(x) \) と \( g(y) \) について, \[h(x,y) = f(x)g(y) \notag \] が成立する時, \( X \) と \( Y \) は独立であるといい, 一方の確率変数がとる値が他方の確率変数がとる値に全く影響を与えないことを意味している.