具有条件转移概率的马尔可夫模型


10

首先,让我预先承认,我对统计和数学的了解不如我所希望的那样。有人可能会说只有足够的知识才有危险。:DI抱歉,如果我没有正确使用术语。

我正在尝试对系统从一种状态转换为另一种状态的概率进行建模。一个简单的马尔可夫模型是一个好的开始。(状态集,初始状态概率集,状态之间的转移概率集。)

但是,我正在建模的系统要复杂得多。导致在时间T进入状态的转移概率最有可能取决于除T-1处的状态以外的变量。例如,当阳光明媚时,S1-> S2的转换概率可能为40%,但是在下雨时,S1-> S2的转换概率为80%。

评论者问题的其他信息:

  1. 状态是可观察的。
  2. 只有5-10个州。
  3. 尽管最终模型肯定会少于这个,但目前我们大约要研究30个协变量。
  4. 一些协变量是连续的,其他是离散的。

三个问题:

  1. 如何将条件转移概率纳入我的马尔可夫模型中?
  2. 或者,是否有我应该完全从另一个角度来解决这个问题?
  3. 另外,我应该在线搜索哪些关键字/概念以了解更多信息?

我已经在网上搜索“带有条件转移概率的马尔可夫模型”之类的东西,但是到目前为止,没有任何东西让我打耳光,说:“这是你的答案,假人!”

感谢您的帮助和耐心等待。


欢迎来到该网站。状态空间有多大?您是否观察到每个步骤的过程状态?您有多少个协变量(其他预测变量)?它们是连续的,离散的还是两者的混合?
主教

谢谢,红衣主教。是的,状态是可观察的。可能会有5到10个州。(这仍然不确定,但是我不希望有很大的状态空间。)现在,我们列出了大约30个我们打算研究的协变量,尽管其中大多数协变量最终可能影响不大。有些是连续的,有些是离散的。
亚伦·约翰逊

Answers:


5

您始终可以拥有二阶或更高阶的马尔可夫链。在这种情况下,您的模型已准备就绪,其中包括所有概率转换信息。您可以检查动态贝叶斯网络,它是在机器学习中经常使用的马尔可夫链的图形化模型概括。


YBE,感谢您的快速回复!这是否(将系统建模为二阶或更高阶链)允许我对连续协变量或离散协变量进行建模?您能否指向我一个链接,它为您在说什么提供了一个很好的例子?谢谢!
亚伦·约翰逊

有一张纸可以查。它首先开始描述一阶链,然后描述高阶链的情况。(Ching,Ng,Fung的高阶多元马尔可夫链及其应用)如果您对机器学习感兴趣,我建议您访问Kevin Murphy的网站。他还有一个可以使用的MATLAB工具箱。
YBE 2012年

为您的答案+1,以参考Ching,Ng和Fung论文。那是一个很好的选择。但是,在通读它之后,似乎只涵盖了离散变量(这是我的预期。)虽然我可以离散化连续变量,但我仍然很好奇-是否有任何模型可以处理原始连续变量变量?
亚伦·约翰逊

我不是专家,但是我认为结果通常应该适用于连续情况。例如,卡尔曼滤波器在具有连续状态的HMM(一阶马尔可夫链)上运行。
YBE 2012年

我没有立即选择您的答案,因为我正在等待更多候选人。他们从来没有来过,我忘记了。两年后,我现在通过接受您的回答来奖励您。谢谢(你的)信息!顺便说一句,在最近两年中,您是否还遇到过与此主题相关的其他问题?它仍然是一些我感兴趣的
亚伦约翰逊


0

我在问自己同样的问题,是否真的只需要根据州的状态来模拟结果 Ť1个和协变量,您可能会发现R中的msm包很有用。

该软件包似乎非常适合建模随时间变化的协变量对分类结果之间的转换的影响。如果您确实确实需要一个更高阶的链,这将无济于事,但是根据您的原始问题,情况似乎并非如此。

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.