吸收高阶马尔可夫链的转移矩阵

Transition matrix of absorbing higher order markov chain

我有一个吸收马尔可夫链,假设我有状态
s={开始,S1,S2,结束 1,结束 2}
Start 状态将始终是链的起点,但是一旦离开它就不可能 return 到这个状态。
我很好奇转移矩阵对于吸收高阶马尔可夫链会是什么样子。

现在假设我将二阶马尔可夫链转移矩阵设置为如下:

__________C1 C2 C3 开始 END1 END2
C1,C1
C1,C2
C1,开始
C1,结束 1
C1,结束 2
.
.
.

例如在 C1 上,START 会是什么样子?这对于所有列来说都是零,但是总和为 1 的行不是必需的吗?我是否只是将其从矩阵中删除?
C1 和 END1 的情况如何,这一行也将全部为零? 另一边的状态END1和END2一旦进入就无法离开,即它们正在吸收。

我想知道二阶或 k 阶马尔可夫链的转移矩阵会是什么样子。我找不到关于这个问题的任何好的文献,请贡献一些好的文献。

应从矩阵中删除 (C1, START) 行。这是因为描述链的图中不存在状态 (C1, START)。它不存在的原因仅仅是该状态不可到达,因此不应被视为有效状态。

一般来说,表示第k阶马尔可夫链的转移矩阵不应包含无效行k-tuples(表示对应于不可能路径的状态序列的元组)

至于 (C1, END1) 行,它不是全零行,因为当你处于 END1 时,你的下一个状态是 END1,概率为 1。因此,从(C1, END1) 你有 non-zero 的概率进入 (END1, END1)

好吧,如果你认为马尔可夫链是二阶的,那么你的初始状态应该像 (C1,C1), (C1,C2), ..., 因此你的矩阵会像

__________(C1,C1) (C1,C2) (C1,C3) (C1,开始) ...

(C1,C1)

(C1,C2)

(C1,C3)

(C1,开始)

(C1,END1)

(C1,END2)

...

有很多零(例如(C1,C2)到(C1,C1)的概率为零)。在你的例子中,它是一个 25*25 的矩阵。

如果你声称它是二阶的,那么你必须有 2 个连续的状态才能估计下一个。