Aritalab:Lecture/Basic/Probability Generating Function

From Metabolomics.JP
< Aritalab:Lecture | Basic(Difference between revisions)
Jump to: navigation, search
(New page: ==確率母関数== ある確率分布<math>Pr(X=k)</math>の確率母関数(probability generating function または pgf)を以下のように定義する。 <math>\textstyle G_X(z) = ...)
 
m (→‎平均と分散)
 
(10 intermediate revisions by 2 users not shown)
Line 1: Line 1:
 +
{{Lecture/Header}}
 +
 +
==まとめ==
 +
 +
確率母関数 <math>G_X(z)</math> が与えられたとき
 +
* 平均 <math>E(X) = G_X'(1) \,</math>
 +
* 分散 <math>V(X) = G_X''(1) + G_X'(1) - G_X'(1)^2 \,</math>
 +
 +
{| class ="wikitable"
 +
! 分布名 || 分布関数 || 母関数 || 平均 || 分散
 +
|-
 +
| 一様分布 || <math>\frac{1}{n}\ </math> || <math>\frac{1}{n} (1 + z + z^2 \cdots z^{n-1})\ </math> || <math>\frac{n-1}{2}\ </math> || <math>\frac{n^2 - 1}{12}\  </math>
 +
|-
 +
| ポアソン分布 || <math>e^{\lambda} \frac{\lambda^k}{k!}\ </math> || <math>e^{\lambda (z-1)}\ </math> || <math>\lambda\ </math> || <math>\lambda\ </math>
 +
|-
 +
| 指数分布 || <math>\lambda e^{- \lambda k}\ </math> || <math>\frac{1}{1 - k/\lambda}\ </math> || <math>1 / \lambda\ </math> || <math> 2 / \lambda^2\ </math>
 +
|}
 +
 
==確率母関数==
 
==確率母関数==
  
−
ある確率分布<math>Pr(X=k)</math>の確率母関数(probability generating function または pgf)を以下のように定義する。
+
ある確率分布 '''Pr'''<math>(X=k)</math> の確率母関数 (probability generating function または pgf) を以下のように定義します。
  
 
<math>\textstyle G_X(z) = \Sigma_{k=0}^{\infty}\mbox{Pr}(X=k)z^k</math>
 
<math>\textstyle G_X(z) = \Sigma_{k=0}^{\infty}\mbox{Pr}(X=k)z^k</math>
  
−
確率<math>\mbox{Pr}(X=k)</math>は全て正の値で''k''について全て足しあわせると1になる。
+
確率<math>\mbox{Pr}(X=k)</math>は全て正の値で ''k'' について全て足しあわせると 1 になります。
  
 
<math>\textstyle G_X(1)  
 
<math>\textstyle G_X(1)  
Line 11: Line 29:
 
= \Sigma_{k=0}^{\infty}\mbox{Pr}(X=k) = 1</math>
 
= \Sigma_{k=0}^{\infty}\mbox{Pr}(X=k) = 1</math>
  
−
逆に係数が非負で<math>G(1) = 1</math>であるようなべき級数<math>G(z)</math>があれば、それは何らかの確率母関数である。
+
逆に係数が非負で <math>G(1) = 1</math> であるようなべき級数 <math>G(z)</math> があれば、それは何らかの確率母関数といいます。
  
 
===平均と分散===
 
===平均と分散===
−
確率母関数を使うと平均と分散の計算が容易にできる。
+
確率母関数を使うと平均と分散の計算が容易にできます。
  
 
<math>\textstyle
 
<math>\textstyle
 
\begin{align}
 
\begin{align}
−
EX &= \Sigma_{k=0}^{\infty}k\mbox{Pr}(X=k) \\
+
E(X) &= \Sigma_{k=0}^{\infty}k\mbox{Pr}(X=k) \\
−
&= \Sigma_{k=0}^{\infty}\mbox{Pr}(X=k) \cdot kz^{k-1} \bigg|_{x=1} \\
+
&= \Sigma_{k=0}^{\infty}\mbox{Pr}(X=k) \cdot kz^{k-1} \bigg|_{z=1} \\
 
&= G_X'(1)
 
&= G_X'(1)
 
\end{align}
 
\end{align}
Line 27: Line 45:
 
\begin{align}
 
\begin{align}
 
E(X^2) &= \Sigma_{k=0}^{\infty}k^2\mbox{Pr}(X=k) \\
 
E(X^2) &= \Sigma_{k=0}^{\infty}k^2\mbox{Pr}(X=k) \\
−
&= \Sigma_{k=0}^{\infty}\mbox{Pr}(X=k) \cdot \big( k(k-1) z^{k-2} + kz^{k-1} \big) \bigg|_{x=1} \\
+
&= \Sigma_{k=0}^{\infty}\mbox{Pr}(X=k) \cdot \big( k(k-1) z^{k-2} + kz^{k-1} \big) \bigg|_{z=1} \\
 
&= G_X''(1) + G_X'(1)
 
&= G_X''(1) + G_X'(1)
 
\end{align}
 
\end{align}
Line 35: Line 53:
  
 
<math>\textstyle
 
<math>\textstyle
−
VX = G_X''(1) + G_X'(1) - G_X'(1)^2
+
V(X) = G_X''(1) + G_X'(1) - G_X'(1)^2
 
</math>
 
</math>
−
 
  
 
==一様分布==
 
==一様分布==
 +
''n''次の一様分布 (uniform distribution) とは確率変数が<math>{0, 1, \ldots, n-1}</math>の値を確率<math>1/n</math>でとるものです。
 +
 +
<math>\textstyle
 +
\mbox{Pr}(X=k) = 1/n
 +
</math>
 +
 +
確率母関数は以下の等比級数になります。
 +
<math>\textstyle
 +
\mbox{U}_n(z) = \frac{1}{n}(1 + z + \cdots + z^{n-1}) = \frac{1}{n}\frac{1-z^n}{1-z}
 +
</math>
 +
 +
この式は<math>1-z</math>を分母に含んでしまうため、<math>\mbox{U}_n'(1)</math>や<math>\mbox{U}_n''(1)</math>を求める際に不都合です。そこでテイラーの定理を応用します。
 +
 +
<math>
 +
G(1+t) = G(1) + \frac{G'(1)}{1!} t + \frac{G''(1)}{2!} t^2 + \frac{G'''(1)}{3!} t^3 + \cdots
 +
</math>
 +
 +
この係数、つまり<math>G(z)</math>の導関数を以下の式と見比べます。
 +
 +
<math>
 +
\begin{align}
 +
\mbox{U}_n(1+t) &= \frac{1}{n}\frac{(1+t)^n - 1}{t} \\
 +
&= \frac{1}{n}\binom{n}{1} + \frac{1}{n}\binom{n}{2} t + \frac{1}{n}\binom{n}{3} t^2 + \cdots + \frac{1}{n}\binom{n}{t} t^{n-1}
 +
\end{align}
 +
</math>
 +
 +
ここから
 +
 +
<math>\textstyle
 +
\mbox{U}_n(1) = 1 \quad
 +
\mbox{U}_n'(1) = \frac{n-1}{2} \quad
 +
\mbox{U}_n''(1) = \frac{(n-1)(n-2)}{3} \quad
 +
</math>
 +
 +
平均と分散は
 +
 +
<math>\textstyle
 +
\mbox{U}_n'(1) = \frac{n-1}{2}
 +
\quad
 +
\mbox{U}_n''(1) + \mbox{U}_n'(1) - \mbox{U}_n'(1)^2 = \frac{n^2-1}{12}.
 +
</math>
 +
 +
==連続分布と積率母関数==
 +
 +
積率母関数の説明を入れる。
 +
 +
 +
==ポアソン分布==
 +
 +
ポアソン分布とは単位時間中に平均 <math>\lambda</math> 回発生する事象がちょうど ''k'' 回発生する確率をあらわしています。
 +
 +
<math>
 +
\mbox{Pr}(X=k) = e^{-\lambda}\frac{\lambda^k}{k!}
 +
</math>
 +
 +
離散型の確率母関数では
 +
 +
<math>
 +
G(z) = \sum_{k=0}^{\infty} e^{-\lambda}\frac{\lambda^k}{k!} z^k
 +
= e^{-\lambda}\sum_{k=0}^{\infty}\frac{(\lambda z)^k}{k!}
 +
= e^{-\lambda} e^{\lambda z} = e^{\lambda (z-1)}
 +
</math>
 +
 +
平均と分散は
 +
 +
<math>
 +
\mbox{G}'(1) = \lambda \quad \mbox{G}''(1) + \mbox{G}'(1) - \mbox{G}'(1)^2
 +
= \lambda
 +
</math>
 +
 +
連続型の積率母関数では
 +
 +
==指数分布==
 +
 +
<math>
 +
\mbox{Pr}(X=k) = \lambda e^{-\lambda x}
 +
</math>
 +
 +
確率母関数は
 +
<math>
 +
\begin{align}
 +
G(z) &= \lambda \sum_{k=0}^{\infty} e^{-\lambda k} z^k
 +
= \lambda \sum_{k=0}^{\infty} (e^{-\lambda}z)^k
 +
= \frac{\lambda e^\lambda}{e^\lambda - z}
 +
\end{align}
 +
</math>
 +
 +
平均と分散は

Latest revision as of 10:03, 7 August 2019

Wiki Top Up one level レポートの書き方 Arita Laboratory

Contents

[edit] まとめ

確率母関数 G_X(z) が与えられたとき

  • 平均 E(X) = G_X'(1) \,
  • 分散 V(X) = G_X''(1) + G_X'(1) - G_X'(1)^2 \,
分布名 分布関数 母関数 平均 分散
一様分布 \frac{1}{n}\ \frac{1}{n} (1 + z + z^2 \cdots z^{n-1})\ \frac{n-1}{2}\ \frac{n^2 - 1}{12}\
ポアソン分布 e^{\lambda} \frac{\lambda^k}{k!}\ e^{\lambda (z-1)}\ \lambda\ \lambda\
指数分布 \lambda e^{- \lambda k}\ \frac{1}{1 - k/\lambda}\ 1 / \lambda\ 2 / \lambda^2\

[edit] 確率母関数

ある確率分布 Pr(X=k) の確率母関数 (probability generating function または pgf) を以下のように定義します。

\textstyle G_X(z) = \Sigma_{k=0}^{\infty}\mbox{Pr}(X=k)z^k

確率\mbox{Pr}(X=k)は全て正の値で k について全て足しあわせると 1 になります。

\textstyle G_X(1) = \Sigma_{k=0}^{\infty}\mbox{Pr}(X=k)z^k = \Sigma_{k=0}^{\infty}\mbox{Pr}(X=k) = 1

逆に係数が非負で G(1) = 1 であるようなべき級数 G(z) があれば、それは何らかの確率母関数といいます。

[edit] 平均と分散

確率母関数を使うと平均と分散の計算が容易にできます。

\textstyle \begin{align} E(X) &= \Sigma_{k=0}^{\infty}k\mbox{Pr}(X=k) \\ &= \Sigma_{k=0}^{\infty}\mbox{Pr}(X=k) \cdot kz^{k-1} \bigg|_{z=1} \\ &= G_X'(1) \end{align}

\textstyle \begin{align} E(X^2) &= \Sigma_{k=0}^{\infty}k^2\mbox{Pr}(X=k) \\ &= \Sigma_{k=0}^{\infty}\mbox{Pr}(X=k) \cdot \big( k(k-1) z^{k-2} + kz^{k-1} \big) \bigg|_{z=1} \\ &= G_X''(1) + G_X'(1) \end{align}

したがって

\textstyle V(X) = G_X''(1) + G_X'(1) - G_X'(1)^2

[edit] 一様分布

n次の一様分布 (uniform distribution) とは確率変数が{0, 1, \ldots, n-1}の値を確率1/nでとるものです。

\textstyle \mbox{Pr}(X=k) = 1/n

確率母関数は以下の等比級数になります。 \textstyle \mbox{U}_n(z) = \frac{1}{n}(1 + z + \cdots + z^{n-1}) = \frac{1}{n}\frac{1-z^n}{1-z}

この式は1-zを分母に含んでしまうため、\mbox{U}_n'(1)や\mbox{U}_n''(1)を求める際に不都合です。そこでテイラーの定理を応用します。

G(1+t) = G(1) + \frac{G'(1)}{1!} t + \frac{G''(1)}{2!} t^2 + \frac{G'''(1)}{3!} t^3 + \cdots

この係数、つまりG(z)の導関数を以下の式と見比べます。

\begin{align} \mbox{U}_n(1+t) &= \frac{1}{n}\frac{(1+t)^n - 1}{t} \\ &= \frac{1}{n}\binom{n}{1} + \frac{1}{n}\binom{n}{2} t + \frac{1}{n}\binom{n}{3} t^2 + \cdots + \frac{1}{n}\binom{n}{t} t^{n-1} \end{align}

ここから

\textstyle \mbox{U}_n(1) = 1 \quad \mbox{U}_n'(1) = \frac{n-1}{2} \quad \mbox{U}_n''(1) = \frac{(n-1)(n-2)}{3} \quad

平均と分散は

\textstyle \mbox{U}_n'(1) = \frac{n-1}{2} \quad \mbox{U}_n''(1) + \mbox{U}_n'(1) - \mbox{U}_n'(1)^2 = \frac{n^2-1}{12}.

[edit] 連続分布と積率母関数

積率母関数の説明を入れる。


[edit] ポアソン分布

ポアソン分布とは単位時間中に平均 \lambda 回発生する事象がちょうど k 回発生する確率をあらわしています。

\mbox{Pr}(X=k) = e^{-\lambda}\frac{\lambda^k}{k!}

離散型の確率母関数では

G(z) = \sum_{k=0}^{\infty} e^{-\lambda}\frac{\lambda^k}{k!} z^k = e^{-\lambda}\sum_{k=0}^{\infty}\frac{(\lambda z)^k}{k!} = e^{-\lambda} e^{\lambda z} = e^{\lambda (z-1)}

平均と分散は

\mbox{G}'(1) = \lambda \quad \mbox{G}''(1) + \mbox{G}'(1) - \mbox{G}'(1)^2 = \lambda

連続型の積率母関数では

[edit] 指数分布

\mbox{Pr}(X=k) = \lambda e^{-\lambda x}

確率母関数は \begin{align} G(z) &= \lambda \sum_{k=0}^{\infty} e^{-\lambda k} z^k = \lambda \sum_{k=0}^{\infty} (e^{-\lambda}z)^k = \frac{\lambda e^\lambda}{e^\lambda - z} \end{align}

平均と分散は

Retrieved from "http://metabolomics.jp/mediawiki/index.php?title=Aritalab:Lecture/Basic/Probability_Generating_Function&oldid=315439"
Personal tools
Namespaces

Variants
Actions
Navigation
metabolites
Toolbox