Aritalab:Lecture/NetworkBiology/Markov Chains/StationaryDistribution

Revision as of 16:40, 17 October 2011

$\begin{align} p^{(n)}_{ii} &= f^{(0)}_{ii}p^{(n)}_{ii} + f^{(1)}_{ii}p^{(n-1)}_{ii} + f^{(2)}_{ii}p^{(n-2)}_{ii} + ... + f^{(n)}_{ii}p^{(0)}_{ii} \\ &= 0 p^{(n)}_{ii} + f^{(1)}_{ii}p^{(n-1)}_{ii} + f^{(2)}_{ii}p^{(n-2)}_{ii} + ... + f^{(n)}_{ii} 1 \\ &= \textstyle\sum^{n}_{k=1} f^{(k)}_{ii}p^{(n-k)}_{ii} \end{align}$

初通過時間も同様にあらわせます。

$p^{(n)}_{ij} = \textstyle\sum^{n}_{k=1} f^{(k)}_{ij}p^{(n-k)}_{jj}$

関数 f_ij と p_ij の母関数をそれぞれ F_ij(s) と P_ij(s) であらわします^[1]。

$\begin{align} F_{ij}(s) &= \textstyle\sum^{\infty}_{n=0} f^{(n)}_{ij}s^n \quad |s| < 1 \\ &= 0 s^0 + f^{(1)}_{ij} s + f^{(2)}_{ij} s^2 + f^{(3)}_{ij} s^3 ...\\ P_{ij}(s) &= \textstyle\sum^{\infty}_{n=0} p^{(n)}_{ij}s^n \quad |s| < 1 \\ &= 1 s^0 + p^{(1)}_{ij} s + p^{(2)}_{ij} s^2 + p^{(3)}_{ij} s^3 ... \end{align}$

(−1, 1) の間に収束する二つの数列の積はやはり(−1, 1) の間に収束することが知られています (Wade 2000)。

$\begin{align} F_{ii}(s) P_{ii}(s) &= \textstyle\sum^{\infty}_{r=1}\Big(\sum^{r}_{k=1}f^{(k)}_{ii}p^{(r-k)}_{ii}\Big) s^r \\ &= \textstyle\sum^{\infty}_{r=1} p^{(r)}_{ii} s^r \\ &= P_{ii}(s) - 1 \end{align}$

P_ii(s) から 1 を引くのは F_ii(s) P_ii(s) の第一項が $f^{0}_{ii} p^{0}_{ii} = 0$ であるのに対し P_ii(s) の第一項は 1 になるからです。この関係から以下が導かれます。

$\textstyle P_{ii}(s) = \frac{1}{1 - F_{ii}(s)}$

同じようにして、通過時間の母関数に対して

$F_{ij}P_{jj}(s) = P_{ij}(s) \quad (i \not= j)$

が成立します。こちらは P_ij(s) から 1 を引きません。これは P_ij(s) の第一項が 1 でなく 0 であることに由来します。

Abel の収束定理

以下の定理 (Abelの定理) は証明せずに利用します。

もし $\textstyle\sum^{\infty}_{k=0} a_k$ が収束する場合、 $\lim_{s\rightarrow 1^-}\textstyle\sum^{\infty}_{k=0} a_k s^k = \textstyle\sum^{\infty}_{k=0} a^k = a$
もし $a_k \geq 0, \ \lim_{s\rightarrow 1^-} \textstyle\sum^{\infty}_{k=0} a_k = a \leq \infty$ の場合、 $\textstyle\sum^{\infty}_{k=0} a^k = a$

定理：状態 i が再帰的（一時的）であることと $\textstyle\sum^{\infty}_{n=0} p^{(n)}_{ii} = \infty$ は同義

状態 i が再帰的であると仮定します。すなわち

$\textstyle\sum^{\infty}_{n=0} f^{(n)}_{ii} = 1$

このときAbelの定理から

$\lim_{s\rightarrow 1^-} \textstyle\sum^{\infty}_{n=0} f^{(n)}_{ii} s^n = \sum^{\infty}_{n=0} F_{ii}(s) = 1$

母関数の関係 P(s) = 1/(1 - F(s)) を用いると

$\lim_{s\rightarrow 1^-} \textstyle\sum^{\infty}_{n=0} p^{(n)}_{ii} s^n = \sum^{\infty}_{n=0} P_{ii}(s) = \infty$

したがって再びAbelの定理から $\textstyle\sum^{\infty}_{n=0} p^{(n)}_{ii} = \infty$ となります。

逆方向は背理法で示します。 $\textstyle\sum^{\infty}_{n=0} p^{(n)}_{ii} = \infty$ のときに状態 i が一時的 (transient) と仮定します。このときAbelの定理から

$\lim_{s\rightarrow 1^-} \textstyle\sum^{\infty}_{n=0} f^{(n)}_{ii} s^n = \sum^{\infty}_{n=0} F_{ii}(s) \leq 1$

母関数の関係 $P(s) = 1/(1 - F(s))$ を用いると

$\lim_{s\rightarrow 1^-} \textstyle\sum^{\infty}_{n=0} p^{(n)}_{ii} s^n = \sum^{\infty}_{n=0} P_{ii}(s) < \infty$

これは $\textstyle\sum^{\infty}_{n=0} p^{(n)}_{ii} = \infty$ と矛盾するので定理が証明できました。

補題：同じ同値類に属する状態は、再帰性に関する性質が等しい

状態 i, j が同じ同値類に属すと仮定し、m,n ステップでそれぞれ i → j, j → i の遷移が可能とします。すなわち $p^{(m)}_{ij} > 0, p^{(n)}_{ji} > 0$ です。

状態 i が再帰的 $\textstyle\sum^{\infty}_{k=0} p^{(k)}_{ii}= \infty$ と仮定します。状態 j について以下が成立するので、j もやはり再帰的です。

$\textstyle\sum^{\infty}_{k=0} p^{(k)}_{jj} \geq \sum^{\infty}_{k=0} p^{(n)}_{ji} p^{(k)}_{ii} p^{(m)}_{ji} = p^{(n)}_{ji} p^{(m)}_{ji} \sum^{\infty}_{k=0} p^{(k)}_{ii} = \infty$

状態 i が再帰的でなければ、i は一時的です。そのため同じ同値類に属す状態集合は、全て再帰的か、すべて一時的のどちらかです。

定常分布の極限定理

以下の定理の証明はいずれもKarlin & Tayler (1975) を参照してください。

定理：既約、再帰的、非周期的なマルコフ連鎖は以下を満たす

$\lim_{n \rightarrow \infty} p^{(n)}_{ij} = 1 / \mu_{jj}$

ここで $\mu_{jj}$ は状態 j の平均再帰時間です。i の値に関係ない (j に依存する)値に収束する点に注意します。

定理：既約、再帰的、周期 d のマルコフ連鎖は以下を満たす

周期 d を持つ場合、d の倍数にあたる遷移の時だけ

$\lim_{n \rightarrow \infty} p^{(nd)}_{ii} = d / \mu_{jj}$

それ以外は $p^{(m)}_{ii} = 0 \ (m \not= nd)$ になります。

状態 i が正再帰的な場合は $\mu_{ii}$ が有限の値ですが、ゼロ再帰的な場合は無限大、つまり $\lim_{n \rightarrow \infty} p^{(n)}_{ii} = 0$ になります。

定理：規約、正再帰的、非周期的なマルコフ連鎖は、定常分布 $\bar\pi = (\pi_1, \pi_2, ...)$ をただ一つ持つ

$\pi_j = \lim_{n \rightarrow \infty} p^{(n)}_{ij} \ (i, j = 1, 2, ...)$

マルコフ連鎖は有限でなくても良い点に注意します。定常分布をただ一つ持つような条件を、エルゴード的と呼びます。状態 i がエルゴード的な時、i は正再帰的、非周期的です。マルコフ連鎖がエルゴード的になるには、全ての状態がエルゴード的かつ規約でなくてはなりません。このとき、確率行列は以下を満たします。

$\lim_{n \rightarrow \infty} \mathbf{P}^{n} = \begin{bmatrix} \pi_1 & \pi_2 & \pi_3 & \cdots \\ \pi_1 & \pi_2 & \pi_3 & \cdots \\ \pi_1 & \pi_2 & \pi_3 & \cdots \\ \vdots & \vdots & \vdots & \\ \end{bmatrix}$

つまり初期値に依存しない値になります。上の定理とあわせると、 $\ \pi_i = 1/\mu_{ii} > 0$ が導かれます。

マルコフ連鎖の分類

マルコフ連鎖は以下のように分類できます。

既約 or 非既約
過渡的 or ゼロ再帰的 or 正再帰的
周期的 or 非周期的

有限性とゼロ再帰性

ゼロ再帰性は、有限マルコフ連鎖で生じません。

定理：有限のマルコフ連鎖における状態は過渡的か正再帰的（ゼロ再帰的な状態は無い）。また、全ての状態が過渡的になることもない

全ての状態が過渡的である場合、確率行列によって N ステップ後に移動する状態を考えると

$\textstyle \lim_{n \rightarrow \infty} \mathbf{P}^{n} = \mathbf{0}$

になってしまうので、P が確率行列であることと矛盾します。次にゼロ再帰性について考えます。マルコフ連鎖は有限なので、ゼロ再帰的な状態が属す、ゼロ再帰的な同値類 C が存在します。この同値類に対応する確率行列（Pの部分行列）P' を考えると、ゼロ再帰性からこの部分行列について

$\textstyle \lim_{n \rightarrow \infty} \mathbf{P'}^{n} = \mathbf{0}$

でなくてはなりません。しかし C に対応する部分行列も再帰性から確率行列を満たさなくてはならないので、矛盾します。つまり、ゼロ再帰的な状態と過渡的な状態はいずれも $\textstyle \lim_{n \rightarrow \infty} p^{(n)}_{ii} = 0$ を満たすので有限の数で再帰性を満たせないというわけです。

定理：有限のマルコフ連鎖に含まれる同値類は、閉じているなら正再帰的

正再帰的な状態集合は必ず閉じています。なぜなら閉じていない場合は、いずれかの状態 i において j → j という集合外への遷移が存在し、状態 i の再帰確率はこの遷移確率 p_ij 分 1 より少なくなるからです。これは再帰的であることの定義に反します。

逆に閉じた同値類が正再帰的でない、つまり過渡的であると仮定します。すると同値類に含まれる状態全てが過渡的になってしまうので、一つ前の定理と同じ理由で矛盾となります。

正規行列

マルコフ連鎖の世界では、全ての要素が p_ij > 0 となる確率行列を正規行列 (regular matrix) と呼ぶことがあります。確率行列が正規な場合、マルコフ連鎖は規約で非周期的（全ての状態間を行き来できる）です。このため正規な確率行列を持つマルコフ連鎖は、正再帰的でもあります。

ペロン・フロベニウスの定理によると、非負の行列 P が既約であれば

最大固有値は正で、かつ、実数　（ 1 が最大固有値）
最大固有値は、Ａの固有方程式の単純根（定常分布はただ一つであることに対応）
最大固有値に対応する固有ベクトルの成分は、全て正か又は全て負（当然だが、定常分布は全て正）

が成立します。つまり最大固有値 1 がただ一つの定常分布に対応するためには、確率行列 P は正規（既約かつ非周期的）でなくてよく、規約なだけで十分です。非周期性は、唯一の定常分布に収束するために必要な条件です。

補足

↑ f_ij と p_ijは一時的 (transient) かもしれないため総和は 1 以下の可能性があります。したがって確率母関数にはなっていません。

[0] _ij と p_ijは一時的 (transient) かもしれないため総和は 1 以下の可能性があります。したがって確率母関数にはなっていません。

[1]

@@ Line 125: / Line 125: @@
 <math>
-\lim_{n \rightarrow \infty} P^{n} =
+\lim_{n \rightarrow \infty} \mathbf{P}^{n} =
 \begin{bmatrix}
    \pi_1 & \pi_2  & \pi_3 & \cdots  \\
@@ Line 136: / Line 136: @@
 つまり初期値に依存しない値になります。上の定理とあわせると、<math>\ \pi_i = 1/\mu_{ii} > 0 </math> が導かれます。
-;補足
+==マルコフ連鎖の分類==
+マルコフ連鎖は以下のように分類できます。
+# 既約 or 非既約
+# 過渡的 or ゼロ再帰的 or 正再帰的
+# 周期的 or 非周期的
+===有限性とゼロ再帰性===
+ゼロ再帰性は、有限マルコフ連鎖で生じません。
+;定理：有限のマルコフ連鎖における状態は過渡的か正再帰的（ゼロ再帰的な状態は無い）。また、全ての状態が過渡的になることもない
+全ての状態が過渡的である場合、確率行列によって N ステップ後に移動する状態を考えると
+<math>\textstyle \lim_{n \rightarrow \infty} \mathbf{P}^{n} = \mathbf{0}</math>
+になってしまうので、'''P''' が確率行列であることと矛盾します。次にゼロ再帰性について考えます。マルコフ連鎖は有限なので、ゼロ再帰的な状態が属す、ゼロ再帰的な同値類 C が存在します。この同値類に対応する確率行列（'''P'''の部分行列）'''P' '''を考えると、ゼロ再帰性からこの部分行列について
+<math>\textstyle \lim_{n \rightarrow \infty} \mathbf{P'}^{n} = \mathbf{0}</math>
+でなくてはなりません。しかし C に対応する部分行列も再帰性から確率行列を満たさなくてはならないので、矛盾します。
+つまり、ゼロ再帰的な状態と過渡的な状態はいずれも <math>\textstyle \lim_{n \rightarrow \infty} p^{(n)}_{ii} = 0</math> を満たすので有限の数で再帰性を満たせないというわけです。
+;定理：有限のマルコフ連鎖に含まれる同値類は、閉じているなら正再帰的
+正再帰的な状態集合は必ず閉じています。なぜなら閉じていない場合は、いずれかの状態 i において j &rarr; j という集合外への遷移が存在し、状態 i の再帰確率はこの遷移確率 p<sub>ij</sub> 分 1 より少なくなるからです。これは再帰的であることの定義に反します。
+逆に閉じた同値類が正再帰的でない、つまり過渡的であると仮定します。すると同値類に含まれる状態全てが過渡的になってしまうので、一つ前の定理と同じ理由で矛盾となります。
+===正規行列===
+マルコフ連鎖の世界では、全ての要素が p<sub>ij</sub> > 0 となる確率行列を 正規行列 (regular matrix) と呼ぶことがあります。確率行列が正規な場合、マルコフ連鎖は規約で非周期的（全ての状態間を行き来できる）です。このため正規な確率行列を持つマルコフ連鎖は、正再帰的でもあります。
+ペロン・フロベニウスの定理によると、非負の行列 P が既約であれば
+# 最大固有値は正で、かつ、実数　（ 1 が最大固有値）
+# 最大固有値は、Ａの固有方程式の単純根 （定常分布はただ一つであることに対応）
+# 最大固有値に対応する固有ベクトルの成分は、全て正か又は全て負 （当然だが、定常分布は全て正）
+が成立します。つまり最大固有値 1 がただ一つの定常分布に対応するためには、確率行列 P は正規（既約かつ非周期的）でなくてよく、規約なだけで十分です。非周期性は、唯一の定常分布に収束するために必要な条件です。
+;<big>補足</big>
 <references/>

Aritalab:Lecture/NetworkBiology/Markov Chains/StationaryDistribution

Revision as of 16:40, 17 October 2011

Contents

再帰時間の母関数

Abel の収束定理

定常分布の極限定理

マルコフ連鎖の分類

有限性とゼロ再帰性

正規行列

Personal tools

Namespaces

Variants

Views

Actions

Search

Navigation

metabolites

Toolbox