返回前访问所有其他州的可能性

机器算法验证 自习 随机过程 马尔科夫过程
2022-03-30 05:50:20

问题(一)

在时钟上随机游走。考虑数字围绕时钟书写。考虑一个马尔可夫链,它每一步跳到两个相邻数字之一的概率相等。1,2,,12

  • 返回其起始位置的预期步数是多少?Xn

我的工作

根据类中的结果,我们知道个状态的马尔可夫链,对于所有作为平稳分布具有均匀分布我们还知道,如果链是不可约的并且存在平稳分布(两个假设都满足),那么第一次返回的预期时间()是 12。p12π(x)=1/12xπ(y)=1EyTyEyTy

问题(二)

  • 在返回其起始位置之前访问所有其他状态的概率是多少?Xn



我的问题

我不确定如何计算这个概率。我的第一个直觉是考虑,但进一步考虑这个问题,这似乎是不正确的,因为链不必在第 12 步之前访问所有状态。P(Ty>12)

1个回答

这看起来像家庭作业,所以我试图给出提示,而不是解决方案。

对于 (b) 部分,您肯定想要使用图形的结构。不失一般性假设您从12你的第一步是1. 你能说一下你击中的概率是多少11在你打之前12?