acpass

モデリング用語

ひとことで言うと

マルコフ連鎖で「一度入ったら二度と出られない状態」が吸収状態です。賭けで一文無しになる(破産)、目標額に到達して勝ち抜ける、といった『終わり』に対応します。推移行列を吸収状態を先にまとめて書くと、きれいな標準形になります。

状態0,1,2の3状態マルコフ連鎖の遷移図。状態0と2は赤丸で自己ループ確率1の吸収状態、中央の状態1は緑丸の遷移状態で確率0.3で0へ、0.3で2へ、0.4で自分に留まる。一度吸収状態に入ると出られないことを示す状態0と2は吸収(P_ii=1、自己ループ)。1は遷移状態0.30.3110.4012吸収遷移吸収

状態 {0,1,2}\{0,1,2\} の3状態マルコフ連鎖。状態0と2は自己ループ確率1の吸収状態(Pii=1P_{ii}=1)、中央の1は遷移状態で確率0.3で0へ、0.3で2へ、0.4で自分に留まる。一度吸収状態に入ると出られない。

数式で表すと

Pii=1P_{ii}=1

一度入ると出られない状態。賭けの破産・勝ち抜けの境界に対応。

吸収状態とは、マルコフ連鎖(concept: マルコフ連鎖)で「一度入るとそこから出られない状態」、すなわち Pii=1P_{ii}=1 を満たす状態 ii のことです。自分自身への遷移確率が1なので、入ったら確率1でずっとそこに留まります。concept: 吸収確率では「単純ランダムウォークで2つの吸収壁のどちらに先に到達するか」という具体的な確率計算を扱いましたが、このページではもっと一般に、ランダムウォークに限らないマルコフ連鎖における吸収状態の構造そのものを扱います。賭けの破産(資金0)や勝ち抜け(目標額)、ゲームの終了状態などが吸収状態の典型例です。 吸収状態をもつ連鎖の推移行列は、状態の順番を「吸収状態を先、遷移状態を後」に並べ替えると、見通しのよい標準形に書けます。 P=(I0RQ)P=\begin{pmatrix}I & 0\\ R & Q\end{pmatrix} 左上の II は吸収状態どうしの部分で単位行列(吸収状態は自分に確率1で留まり他へ動かないので対角1)。右上の 00 は吸収状態から遷移状態へ戻る確率がゼロであること(出られない)を表します。下の RR は遷移状態から吸収状態へ入る確率、QQ は遷移状態どうしの間を動く確率です。この QQRR を使うと、各遷移状態からの吸収確率や期待到達時間(concept: 期待到達時間)が行列計算で一気に求まります。 具体例で標準形を確認します。状態 {0,1,2}\{0,1,2\} で、0と2が吸収状態、1だけが遷移状態とし、状態1からは P(10)=0.3P(1\to0)=0.3P(11)=0.4P(1\to1)=0.4P(12)=0.3P(1\to2)=0.3 で動くとします。推移行列は、行0が (1,0,0)(1,0,0)、行2が (0,0,1)(0,0,1)(どちらも Pii=1P_{ii}=1 の吸収状態)、行1が (0.3,0.4,0.3)(0.3,0.4,0.3) です。吸収状態を先に並べる標準形では、Q=(0.4)Q=(0.4)(遷移状態1から1へ)、R=(0.3, 0.3)R=(0.3,\ 0.3)(1から吸収0と2へ)という小さなブロックに整理されます。吸収状態の性質として、いったん吸収状態 ii に入れば任意の先 kk について P(Xn+k=iXn=i)=1P(X_{n+k}=i\mid X_n=i)=1 が成り立ちます。また有限マルコフ連鎖で、すべての遷移状態からいずれかの吸収状態に到達可能なら、確率1でいつか必ず吸収されます。最後に位置づけとして、吸収状態をもつ連鎖は、定常分布やエルゴード性を論じる既約・再帰的な連鎖とは対照的です。吸収連鎖は一度吸収されると分布が動かなくなるため非エルゴードで、「長時間後に各状態を一定割合で訪れる」という定常分布の議論はそのままでは当てはまりません。

試験に出る性質

定義

Pii=1P_{ii}=1 を満たす状態。一度入ると確率1でそこに留まり、二度と出られない。

標準形

吸収状態を先に並べると P=(I0RQ)P=\begin{pmatrix}I&0\\R&Q\end{pmatrix}RR は吸収へ入る、QQ は遷移間を動く確率。

吸収後は不変

吸収状態 ii に入れば任意の kkP(Xn+k=iXn=i)=1P(X_{n+k}=i\mid X_n=i)=1。分布はそこで固定される。

いつか必ず吸収

有限連鎖で全遷移状態から吸収へ到達可能なら、確率1で有限時間内に吸収される。

非エルゴード

吸収連鎖は定常分布・エルゴード性をもつ既約連鎖とは対照的。吸収後に分布が動かず非エルゴード。

例で見る

状態 {0,1,2}\{0,1,2\}、0と2が吸収、1が遷移状態で P(10)=0.3, P(11)=0.4, P(12)=0.3P(1\to0)=0.3,\ P(1\to1)=0.4,\ P(1\to2)=0.3。 推移行列は行0=(1,0,0)=(1,0,0)、行2=(0,0,1)=(0,0,1)Pii=1P_{ii}=1)、行1=(0.3,0.4,0.3)=(0.3,0.4,0.3)。 標準形では Q=(0.4)Q=(0.4)R=(0.3, 0.3)R=(0.3,\ 0.3) と整理できる。

つまずきポイント

  • 吸収状態と単なる『戻りにくい状態』を混同する(吸収は Pii=1P_{ii}=1 ちょうど。0.99なら吸収ではなく、まれに出られる)
  • 吸収連鎖に定常分布の議論をそのまま当てる(吸収連鎖は非エルゴード。既約・再帰の連鎖とは別扱い)
  • 標準形で右上が0でない、とする(吸収状態から遷移状態へ戻る確率は0。P=(I0RQ)P=\bigl(\begin{smallmatrix}I&0\\R&Q\end{smallmatrix}\bigr)

定着クイズ

吸収状態の定義は?

吸収状態を先に並べた推移行列の標準形は?

吸収状態をもつ連鎖の性質として正しいのは?

この用語を扱う問題(1

吸収とは|定義・公式とアクチュアリー試験の関連問題 | acpass