acpass

エルゴード性

知識マップ

モデリング・用語

ひとことで言うと

連鎖を長く走らせたとき、「状態 jj に滞在していた時間の割合」が定常分布 πj\pi_j に一致する、という大数の法則のような性質です。重要なのは、たとえ分布そのものが収束しなくても（極限分布が無くても）、この時間平均だけは π\pi に落ち着きうる、という点です。

決定的交互推移の2状態連鎖。直接の極限P^n_00は存在しないが、状態0に滞在する時間の長期割合（時間平均）はn→∞で1/2へ収束し定常分布π_0=0.5に一致する。極限分布がなくてもエルゴード性（時間平均=π）は成り立ちうる周期例でも時間平均→π：状態0にいる長期割合は1/20111極限 P^n_00 は不在でも、時間平均→π_0=0.5（エルゴード性）エルゴード性は『時間平均』の収束。極限分布の存在とは別物

周期例 P=\begin{psmallmatrix}0&1\\1&0\end{psmallmatrix} でも、状態0に滞在する時間の長期割合は n→∞n\to\infty で 1/21/2 に収束し π0=0.5\pi_0=0.5 に一致する。直接の極限 P00nP^n_{00} は存在しないのに、時間平均は π\pi に一致するという対比を示す。

数式で表すと

lim⁡n1n∑t1[Xt=j]=πj\lim_{n}\tfrac1n\sum_t \mathbf 1[X_t=j]=\pi_j

既約・非周期な連鎖で長期割合が定常分布に等しくなる性質。

エルゴード性とは、マルコフ連鎖を長時間走らせたときに、状態 jj に滞在した時間の長期的な割合（時間平均）が定常分布 πj\pi_j に一致する性質です。式で書くと lim⁡n→∞1n∑t=1n1[Xt=j]=πj\lim_{n\to\infty}\dfrac1n\sum_{t=1}^{n}\mathbf 1[X_t=j]=\pi_j で、左辺は「nn ステップのうち状態 jj にいた割合」にほかなりません。これは独立標本に対する大数の法則の、マルコフ連鎖版だと考えると分かりやすいです。concept: 極限分布が「ある1時点での分布 PijnP^n_{ij} の収束」を問うのに対し、エルゴード性は「時間を通した滞在割合の収束」を問う——同じ π\pi に向かう話でも、収束の意味が違うのが核心です。 この違いが最もはっきり出るのが、周期2の反例です。P=(0110)P=\begin{pmatrix}0&1\\1&0\end{pmatrix} は状態0と1を確率1で交互に行き来します。concept: 極限分布で見たとおり P00nP^n_{00} は偶数で1・奇数で0と振動し、直接の極限は存在しませんでした。ところが時間平均で見ると話が変わります。状態0から出発すると、訪れる状態は 0,1,0,1,0,1,…0,1,0,1,0,1,\dots と並び、nn ステップのうち状態0にいる割合は nn が大きくなるにつれ 1/21/2 に収束します。これは定常分布 π0=0.5\pi_0=0.5 にぴたりと一致します。つまり「一時点の分布は収束しない（極限分布は無い）のに、時間平均はちゃんと π\pi に一致する」——この対比こそが、エルゴード性を極限分布と別建てで学ぶ価値です。 一般に、既約で正再帰的な連鎖はエルゴード的で、時間平均は初期状態によらず π\pi に一致します。非周期性は極限分布には必須ですが、時間平均の収束（エルゴード性）には不要だ、というのが重要な含意です。実務的には、シミュレーションで π\pi を推定するとき、長く1本走らせて滞在割合を数えるという方法が正当化される根拠がエルゴード性です。MCMCが成り立つ理論的支柱でもあります。

試験に出る性質

定義

lim⁡n1n∑t1[Xt=j]=πj\lim_{n}\frac1n\sum_t\mathbf 1[X_t=j]=\pi_j。状態 jj への長期滞在割合が定常分布に一致する。

大数の法則の連鎖版

独立標本の大数の法則を、相関のあるマルコフ連鎖の時間平均へ拡張したもの。

極限分布より弱い条件

時間平均の収束には非周期性が不要。周期があってもエルゴード性は成り立ちうる。

周期例での成立

P=\begin{psmallmatrix}0&1\\1&0\end{psmallmatrix} は極限分布が無いが、状態0の滞在割合は 1/2=π01/2=\pi_0 に収束する。

シミュレーションの根拠

1本の長い軌跡の滞在割合で π\pi を推定できる根拠。MCMCが機能する理論的支柱。

例で見る

周期例 P=(0110)P=\begin{pmatrix}0&1\\1&0\end{pmatrix} で状態0から出発すると、訪れる状態は 0,1,0,1,…0,1,0,1,\dots。 nn ステップ中に状態0にいる割合は n→∞n\to\infty で 1/21/2 に収束し、定常分布 π0=0.5\pi_0=0.5 に一致する（エルゴード性）。 一方、同じ連鎖で直接の極限 P00nP^n_{00} は偶数で1・奇数で0と振動し存在しない（concept: 極限分布の不在）。 極限分布が無くても時間平均は π\pi に一致する、という対比がエルゴード性の要点。

つまずきポイント

  • エルゴード性と極限分布の存在を同じものとみなす（前者は時間平均の収束、後者は一時点分布の収束。周期例では前者のみ成立）
  • 時間平均の収束にも非周期性が要ると思い込む（不要。周期があっても時間平均は π\pi に一致しうる）
  • 1サンプルの瞬間値で π\pi を推定しようとする（エルゴード性が保証するのは長期の滞在割合＝時間平均であって瞬間分布ではない）

定着クイズ

エルゴード性が主張する収束は？

周期例 P=[[0,1],[1,0]]P=[[0,1],[1,0]] でエルゴード性はどうなるか？

時間平均の収束（エルゴード性）に非周期性は必要か？

関連：#定常分布#極限分布#周期

この用語を扱う問題（1）