马尔科夫链蒙特卡.pptx

该【马尔科夫链蒙特卡 】是由【niuww】上传分享，文档一共【35】页，该文档可以免费在线阅读，需要了解更多关于【马尔科夫链蒙特卡 】的内容，可以使用淘豆网的站内搜索功能，选择自己适合的文档，以下文字是截取该文章内的部分文字，如需要获得完整电子版，请下载此文档到您的设备，方便您编辑和打印。理论
马尔科夫链模拟
吉布斯抽样
贝叶斯推断
其他算法
孔文涛
回顾——马尔科夫过程
马尔科夫链模拟及MCMC方法
马尔科夫链模拟及MCMC方法
转移概率矩阵的定义。
定义:对于一个马尔可夫链,称由状态i经过m步转移到状态j的转移概率
为元素,组成的矩阵为转移概率矩阵,
用表示。
当m=1时的转移概率矩阵为,就是一步转移概率矩阵,将其简记为,简称为转移矩阵。
马尔科夫链模拟及MCMC方法
考虑“缺失值”的问题。
Dempster,Laird和Rubin(1977)提出EM算法来解决数据分析时“缺失值”的问题。
M步:如果缺失值是可以得到的,能够利用完全数据分析的方法来建立一个波动率模型。
E步:给定可以利用的数据及拟合的模型,能够推导出缺失值的统计分布。
马尔科夫链模拟及MCMC方法
Tanner和Wong(1987)以两种方式扩展了EM算法。
首先:引进迭代模拟的思想——从条件分布中抽取一个随机数来代替缺失值。
第二:利用数据扩张的概念扩展了EM算法的应用——在研究的问题中加入一个辅助变量。
吉布斯抽样
Geman(1984)、Gelfand和Smith(1990)提出的MCMC方法。
通过一个三个参数的简单问题来引进吉布斯抽样的思想。
吉布斯抽样
吉布斯抽样
对一个充分大的m,渐近等价于来自三个参数的联合分布的一个随机抽取。
实际中,我们利用一个充分大的n,并且丢掉吉布斯迭代的前m个随机抽取,建立一个吉布斯样本,即
因为前面的迭代从联合分布中建立了一个随机样本,所以可以利用它们来作出统计推断。
吉布斯抽样
吉布斯抽样具有将一个高维的估计问题利用所有参数的条件分布分解为几个较低维数问题的优点。
N个参数的高维问题转化为N个1维的条件分布迭代地解决。
当参数高度相关时,联合地抽取。