acpass

マルコフ連鎖

知識マップ

モデリング用語

ひとことで言うと

次にどの状態に移るかが、現在の状態だけで決まり、過去の経路には依存しない確率過程です。「今」が分かれば「次」の確率分布が決まります。

こんなデータが従う

保険契約の継続・解約状態の推移信用格付けの推移(マルコフ連鎖モデル)天気の推移(晴れ・雨)在庫管理の状態推移ウェブサイトのページ間の遷移

「将来は現在の状態だけで決まり、過去の履歴は関係ない」という単純化が成り立つ場面で使われるモデルです。

状態A・B・C間を一定の確率で行き来する図。次の状態は現在の状態だけで決まり、矢印の確率が推移行列Pの要素になる次状態は現在の状態のみで決まる(マルコフ性)ABC0.30.20.20.40.50.3

状態A・B・C間を一定の確率で行き来する図。次の状態は現在の状態だけで決まり、矢印の確率が推移行列Pの要素になる。

数式で表すと

P(n)=PnP^{(n)}=P^n

次状態が現在状態のみで決まる確率過程。nn ステップ推移は推移行列のべき。

マルコフ連鎖は、次の状態が現在の状態だけで決まり、それ以前の状態の履歴には依存しないという性質(マルコフ性)をもつ確率過程です。状態iから状態jへの1ステップでの推移確率を PijP_{ij} とし、これを並べたものが推移行列Pです。 nステップ後の推移確率は、推移行列のn乗 P(n)=PnP^{(n)}=P^n で求められます。これは行列の積が「経路を1つずつ辿って合計する」という性質に対応しており、中間の状態を経由するすべての経路の確率を足し合わせたものになっています。 状態が有限で、適当な条件(既約性・非周期性など)を満たせば、長時間後の状態の分布は初期状態に関係なく一定の分布(concept: 定常分布)に収束します。保険の分野では、契約者の状態(継続・解約・失効など)の推移をマルコフ連鎖でモデル化することがあります。

試験に出る性質

マルコフ性

次状態は現在の状態のみで決まる(過去の履歴に依存しない)。

推移行列P

PijP_{ij} は状態iからjへの1ステップの推移確率。各行の合計は1。

nステップ推移

P(n)=PnP^{(n)}=P^n(行列のべき乗)。

推移図

状態を点、推移確率を矢印で表した図で可視化できる。

長時間後の挙動

条件を満たせば初期状態に関係なく定常分布に収束する。

例で見る

状態Aから1ステップでB,Cに行く確率がそれぞれ0.3,0.2(残り0.5はAに留まる)のとき、2ステップ後のAからの分布はP²の1行目を計算して求める。

つまずきポイント

  • マルコフ性を「将来が完全に決まる」という意味だと誤解する(正しくは「次状態の確率分布」が現在の状態だけで決まるという意味)
  • nステップの推移確率を求める際にP^nではなくn×Pのように単純に掛けてしまう
  • 推移行列の各行の合計が1になっているかを確認しない(行の確率の合計は必ず1)

定着クイズ

マルコフ性が意味することは?

3ステップ後の推移確率を求める式は?

推移行列Pの各行の合計は?

この用語を扱う問題(8