问题(一)
在时钟上随机游走。考虑数字围绕时钟书写。考虑一个马尔可夫链,它每一步跳到两个相邻数字之一的概率相等。
- 返回其起始位置的预期步数是多少?
(我的工作)
根据类中的结果,我们知道个状态的马尔可夫链,对于所有作为平稳分布具有均匀分布我们还知道,如果链是不可约的并且存在平稳分布(两个假设都满足),那么第一次返回的预期时间()是 12。
问题(二)
- 在返回其起始位置之前访问所有其他状态的概率是多少?
我的问题
我不确定如何计算这个概率。我的第一个直觉是考虑,但进一步考虑这个问题,这似乎是不正确的,因为链不必在第 12 步之前访问所有状态。