Aritalab:Lecture/Basic/Probability Generating Function

Revision as of 10:17, 14 December 2012

まとめ

確率母関数 $G_X(z)$ が与えられたとき

平均 $E(X) = G_X'(1) \,$
分散 $V(X) = G_X''(1) + G_X'(1) - G_X'(1)^2 \,$

分布名	分布関数	母関数	平均	分散
一様分布	$\frac{1}{n}\$	$\frac{1}{n} (1 + z + z^2 \cdots z^{n-1})\$	$\frac{n-1}{2}\$	$\frac{n^2 - 1}{12}\$
ポアソン分布	$e^{\lambda} \frac{\lambda^k}{k!}\$	$e^{\lambda (z-1)}\$	$\lambda\$	$\lambda\$
指数分布	$\lambda e^{- \lambda k}\$	$\frac{1}{1 - k/\lambda}\$	$1 / \lambda\$	$2 / \lambda^2\$

確率母関数

ある確率分布 Pr $(X=k)$ の確率母関数 (probability generating function または pgf) を以下のように定義します。

$\textstyle G_X(z) = \Sigma_{k=0}^{\infty}\mbox{Pr}(X=k)z^k$

確率 $\mbox{Pr}(X=k)$ は全て正の値で k について全て足しあわせると 1 になります。

$\textstyle G_X(1) = \Sigma_{k=0}^{\infty}\mbox{Pr}(X=k)z^k = \Sigma_{k=0}^{\infty}\mbox{Pr}(X=k) = 1$

逆に係数が非負で $G(1) = 1$ であるようなべき級数 $G(z)$ があれば、それは何らかの確率母関数といいます。

平均と分散

確率母関数を使うと平均と分散の計算が容易にできます。

$\textstyle \begin{align} E(X) &= \Sigma_{k=0}^{\infty}k\mbox{Pr}(X=k) \\ &= \Sigma_{k=0}^{\infty}\mbox{Pr}(X=k) \cdot kz^{k-1} \bigg|_{x=1} \\ &= G_X'(1) \end{align}$

$\textstyle \begin{align} E(X^2) &= \Sigma_{k=0}^{\infty}k^2\mbox{Pr}(X=k) \\ &= \Sigma_{k=0}^{\infty}\mbox{Pr}(X=k) \cdot \big( k(k-1) z^{k-2} + kz^{k-1} \big) \bigg|_{x=1} \\ &= G_X''(1) + G_X'(1) \end{align}$

したがって

$\textstyle V(X) = G_X''(1) + G_X'(1) - G_X'(1)^2$

一様分布

n次の一様分布 (uniform distribution) とは確率変数が ${0, 1, \ldots, n-1}$ の値を確率 $1/n$ でとるものです。

$\textstyle \mbox{Pr}(X=k) = 1/n$

確率母関数は以下の等比級数になります。 $\textstyle \mbox{U}_n(z) = \frac{1}{n}(1 + z + \cdots + z^{n-1}) = \frac{1}{n}\frac{1-z^n}{1-z}$

この式は $1-z$ を分母に含んでしまうため、 $\mbox{U}_n'(1)$ や $\mbox{U}_n''(1)$ を求める際に不都合です。そこでテイラーの定理を応用します。

$G(1+t) = G(1) + \frac{G'(1)}{1!} t + \frac{G''(1)}{2!} t^2 + \frac{G'''(1)}{3!} t^3 + \cdots$

この係数、つまり $G(z)$ の導関数を以下の式と見比べます。

$\begin{align} \mbox{U}_n(1+t) &= \frac{1}{n}\frac{(1+t)^n - 1}{t} \\ &= \frac{1}{n}\binom{n}{1} + \frac{1}{n}\binom{n}{2} t + \frac{1}{n}\binom{n}{3} t^2 + \cdots + \frac{1}{n}\binom{n}{t} t^{n-1} \end{align}$

ここから

$\textstyle \mbox{U}_n(1) = 1 \quad \mbox{U}_n'(1) = \frac{n-1}{2} \quad \mbox{U}_n''(1) = \frac{(n-1)(n-2)}{3} \quad$

平均と分散は

$\textstyle \mbox{U}_n'(1) = \frac{n-1}{2} \quad \mbox{U}_n''(1) + \mbox{U}_n'(1) - \mbox{U}_n'(1)^2 = \frac{n^2-1}{12}.$

連続分布と積率母関数

積率母関数の説明を入れる。

ポアソン分布

ポアソン分布とは単位時間中に平均 $\lambda$ 回発生する事象がちょうど k 回発生する確率をあらわしています。

$\mbox{Pr}(X=k) = e^{-\lambda}\frac{\lambda^k}{k!}$

離散型の確率母関数では

$G(z) = \sum_{k=0}^{\infty} e^{-\lambda}\frac{\lambda^k}{k!} z^k = e^{-\lambda}\sum_{k=0}^{\infty}\frac{(\lambda z)^k}{k!} = e^{-\lambda} e^{\lambda z} = e^{\lambda (z-1)}$

平均と分散は

$\mbox{G}'(1) = \lambda \quad \mbox{G}''(1) + \mbox{G}'(1) - \mbox{G}'(1)^2 = \lambda$

連続型の積率母関数では

指数分布

$\mbox{Pr}(X=k) = \lambda e^{-\lambda x}$

確率母関数は $\begin{align} G(z) &= \lambda \sum_{k=0}^{\infty} e^{-\lambda k} z^k = \lambda \sum_{k=0}^{\infty} (e^{-\lambda}z)^k = \frac{\lambda e^\lambda}{e^\lambda - z} \end{align}$

平均と分散は

@@ Line 1: / Line 1: @@
+{{Lecture/Header}}
+==まとめ==
+確率母関数 <math>G_X(z)</math> が与えられたとき
+* 平均 <math>E(X) = G_X'(1) \,</math>
+* 分散 <math>V(X) = G_X''(1) + G_X'(1) - G_X'(1)^2 \,</math>
+{| class ="wikitable"
+! 分布名 || 分布関数 || 母関数 || 平均 || 分散
+|-
+| 一様分布 || <math>\frac{1}{n}\ </math> || <math>\frac{1}{n} (1 + z + z^2 \cdots z^{n-1})\ </math> || <math>\frac{n-1}{2}\ </math> || <math>\frac{n^2 - 1}{12}\  </math>
+|-
+| ポアソン分布 || <math>e^{\lambda} \frac{\lambda^k}{k!}\ </math> || <math>e^{\lambda (z-1)}\ </math> || <math>\lambda\ </math> || <math>\lambda\ </math>
+|-
+| 指数分布 || <math>\lambda e^{- \lambda k}\ </math> || <math>\frac{1}{1 - k/\lambda}\ </math> || <math>1 / \lambda\ </math> || <math> 2 / \lambda^2\ </math>
+|}
 ==確率母関数==
-ある確率分布<math>Pr(X=k)</math>の確率母関数(probability generating function または pgf)を以下のように定義する。
+ある確率分布 '''Pr'''<math>(X=k)</math> の確率母関数 (probability generating function または pgf) を以下のように定義します。
 <math>\textstyle G_X(z) = \Sigma_{k=0}^{\infty}\mbox{Pr}(X=k)z^k</math>
-確率<math>\mbox{Pr}(X=k)</math>は全て正の値で''k''について全て足しあわせると1になる。
+確率<math>\mbox{Pr}(X=k)</math>は全て正の値で ''k'' について全て足しあわせると 1 になります。
 <math>\textstyle G_X(1)
@@ Line 11: / Line 29: @@
 = \Sigma_{k=0}^{\infty}\mbox{Pr}(X=k) = 1</math>
-逆に係数が非負で<math>G(1) = 1</math>であるようなべき級数<math>G(z)</math>があれば、それは何らかの確率母関数である。
+逆に係数が非負で <math>G(1) = 1</math> であるようなべき級数 <math>G(z)</math> があれば、それは何らかの確率母関数といいます。
 ===平均と分散===
-確率母関数を使うと平均と分散の計算が容易にできる。
+確率母関数を使うと平均と分散の計算が容易にできます。
 <math>\textstyle
 \begin{align}
-EX &= \Sigma_{k=0}^{\infty}k\mbox{Pr}(X=k) \\
+E(X) &= \Sigma_{k=0}^{\infty}k\mbox{Pr}(X=k) \\
 &= \Sigma_{k=0}^{\infty}\mbox{Pr}(X=k) \cdot kz^{k-1} \bigg|_{x=1} \\
 &= G_X'(1)
@@ Line 35: / Line 53: @@
 <math>\textstyle
-VX = G_X''(1) + G_X'(1) - G_X'(1)^2
+V(X) = G_X''(1) + G_X'(1) - G_X'(1)^2
 </math>
 ==一様分布==
+''n''次の一様分布 (uniform distribution) とは確率変数が<math>{0, 1, \ldots, n-1}</math>の値を確率<math>1/n</math>でとるものです。
+<math>\textstyle
+\mbox{Pr}(X=k) = 1/n
+</math>
+確率母関数は以下の等比級数になります。
+<math>\textstyle
+\mbox{U}_n(z) = \frac{1}{n}(1 + z + \cdots + z^{n-1}) = \frac{1}{n}\frac{1-z^n}{1-z}
+</math>
+この式は<math>1-z</math>を分母に含んでしまうため、<math>\mbox{U}_n'(1)</math>や<math>\mbox{U}_n''(1)</math>を求める際に不都合です。そこでテイラーの定理を応用します。
+<math>
+G(1+t) = G(1) + \frac{G'(1)}{1!} t + \frac{G''(1)}{2!} t^2 + \frac{G'''(1)}{3!} t^3 + \cdots
+</math>
+この係数、つまり<math>G(z)</math>の導関数を以下の式と見比べます。
+<math>
+\begin{align}
+\mbox{U}_n(1+t) &= \frac{1}{n}\frac{(1+t)^n - 1}{t} \\
+&= \frac{1}{n}\binom{n}{1} + \frac{1}{n}\binom{n}{2} t + \frac{1}{n}\binom{n}{3} t^2 + \cdots + \frac{1}{n}\binom{n}{t} t^{n-1}
+\end{align}
+</math>
+ここから
+<math>\textstyle
+\mbox{U}_n(1) = 1 \quad
+\mbox{U}_n'(1) = \frac{n-1}{2} \quad
+\mbox{U}_n''(1) = \frac{(n-1)(n-2)}{3} \quad
+</math>
+平均と分散は
+<math>\textstyle
+\mbox{U}_n'(1) = \frac{n-1}{2}
+\quad
+\mbox{U}_n''(1) + \mbox{U}_n'(1) - \mbox{U}_n'(1)^2 = \frac{n^2-1}{12}.
+</math>
+==連続分布と積率母関数==
+積率母関数の説明を入れる。
+==ポアソン分布==
+ポアソン分布とは単位時間中に平均 <math>\lambda</math> 回発生する事象がちょうど ''k'' 回発生する確率をあらわしています。
+<math>
+\mbox{Pr}(X=k) = e^{-\lambda}\frac{\lambda^k}{k!}
+</math>
+離散型の確率母関数では
+<math>
+G(z) = \sum_{k=0}^{\infty} e^{-\lambda}\frac{\lambda^k}{k!} z^k
+= e^{-\lambda}\sum_{k=0}^{\infty}\frac{(\lambda z)^k}{k!}
+= e^{-\lambda} e^{\lambda z} = e^{\lambda (z-1)}
+</math>
+平均と分散は
+<math>
+\mbox{G}'(1) = \lambda \quad \mbox{G}''(1) + \mbox{G}'(1) - \mbox{G}'(1)^2
+= \lambda
+</math>
+連続型の積率母関数では
+==指数分布==
+<math>
+\mbox{Pr}(X=k) = \lambda e^{-\lambda x}
+</math>
+確率母関数は
+<math>
+\begin{align}
+G(z) &= \lambda \sum_{k=0}^{\infty} e^{-\lambda k} z^k
+= \lambda \sum_{k=0}^{\infty} (e^{-\lambda}z)^k
+= \frac{\lambda e^\lambda}{e^\lambda - z}
+\end{align}
+</math>
+平均と分散は

Aritalab:Lecture/Basic/Probability Generating Function

Revision as of 10:17, 14 December 2012

Contents

まとめ

確率母関数

平均と分散

一様分布

連続分布と積率母関数

ポアソン分布

指数分布

Personal tools

Namespaces

Variants

Views

Actions

Search

Navigation

metabolites

Toolbox