吉布斯抽样是什么

Python010

吉布斯抽样是什么,第1张

吉布斯采样是生成马尔科夫链的一种方法，生成的马尔科夫链可以用来做蒙特卡洛仿真，从而求得一个较复杂的多元分布。

吉布斯采样的具体做法：假设有一个k维的随机向量，现想要构造一条有n个样本的k维向量（n样本马尔科夫序列），那么（随机）初始化一个k维向量，然后固定这个向量其中的k-1个元素，抽取剩下的那个元素（生成给定后验的随机数），这样循环k次，就把整个向量更新了一遍，也就是生成了一个新的样本，把这个整体重复n次就得到了一条马尔科夫链。

种间竞争是指具有相似要求的物种，为了争夺空间和资源，而产生的一种直接或间接抑制对方的现象。

Lotka-Volterrra的种间竞争模型：

K是环境容纳量

N则是物种的种群数量

两者稳定共存的基本条件就是dN1/dt=0和dN2/dt=0

若dN1/dt=0，则K1-N1-αN2=0——①

若dN2/dt=0，则K2-N2-βN1=0——②

当环境全被N1占领则由②式得出N1=K2/β

当环境全被N2占领则由①式得出N2=K1/α

四种情况如图所示

用点表示事件条件概率，用边表示事件依赖关系的有向无环图。

1.典型贝叶斯问题

2.静态结构

在BN中描述概率的方式式每个节点上的条件概率分布。

3.联合/边缘/条件概率换算

4.链式法则与变量消元

变量消元能够显著减少链式法则计算公式的指数级别复杂度。

1.网络参数估计

精确网络参数估计有：最大似然度估计，最大后验估计

2.网络结构

网络结构不确定式，需要从数据中学习网络结构。该问题式NP难问题，解决方法有：

启发式搜索，Chow-Liu Tree算法

1.蒙特卡洛方法

2.马尔可夫链收敛定理

任何非周期马尔可夫链最终收敛于稳定的状态概率分布。

3.MCMC推理框架

4.Gibbs采样

构造一个从快速收敛到平稳状态的马尔可夫链。

5.变分贝叶斯

寻找于目标分布近似的Q分布，加快推理速度。

1.共轭分布

共轭分布简化贝叶斯网络中的概率计算。

2.隐含变量与显式变量

共轭分布常用于为BN中的隐含变量建模。