マルコフ連鎖
知識マップモデリング・用語
ひとことで言うと
次にどの状態に移るかが、現在の状態だけで決まり、過去の経路には依存しない確率過程です。「今」が分かれば「次」の確率分布が決まります。
こんなデータが従う
保険契約の継続・解約状態の推移信用格付けの推移(マルコフ連鎖モデル)天気の推移(晴れ・雨)在庫管理の状態推移ウェブサイトのページ間の遷移
「将来は現在の状態だけで決まり、過去の履歴は関係ない」という単純化が成り立つ場面で使われるモデルです。
状態A・B・C間を一定の確率で行き来する図。次の状態は現在の状態だけで決まり、矢印の確率が推移行列Pの要素になる。
数式で表すと
次状態が現在状態のみで決まる確率過程。 ステップ推移は推移行列のべき。
試験に出る性質
マルコフ性
次状態は現在の状態のみで決まる(過去の履歴に依存しない)。
推移行列P
は状態iからjへの1ステップの推移確率。各行の合計は1。
nステップ推移
(行列のべき乗)。
推移図
状態を点、推移確率を矢印で表した図で可視化できる。
長時間後の挙動
条件を満たせば初期状態に関係なく定常分布に収束する。
例で見る
状態Aから1ステップでB,Cに行く確率がそれぞれ0.3,0.2(残り0.5はAに留まる)のとき、2ステップ後のAからの分布はP²の1行目を計算して求める。
つまずきポイント
- マルコフ性を「将来が完全に決まる」という意味だと誤解する(正しくは「次状態の確率分布」が現在の状態だけで決まるという意味)
- nステップの推移確率を求める際にP^nではなくn×Pのように単純に掛けてしまう
- 推移行列の各行の合計が1になっているかを確認しない(行の確率の合計は必ず1)
定着クイズ
マルコフ性が意味することは?
3ステップ後の推移確率を求める式は?
推移行列Pの各行の合計は?