本文共 1984 字，大约阅读时间需要 6 分钟。
MCMC（Markov Chain Monte Carlo）是一种强大的统计方法，用于通过构造马尔可夫链从复杂的概率分布中采样。这种方法在贝叶斯统计、计算物理、机器学习等领域有广泛应用，特别是在直接计算复杂分布的期望或概率时非常有用。
核心思想
MCMC的目标是从复杂的目标分布 ( p(x) ) 中采样。通过构造一个马尔可夫链，使其稳态分布即为目标分布 ( p(x) )。通过对链上的样本进行统计，可以近似计算目标分布的期望、边缘分布等。
关键点
- 马尔可夫性质：当前状态 ( x_t ) 仅依赖于前一状态 ( x_{t-1} )，与更早的状态无关。
- 蒙特卡洛方法：利用随机样本逼近复杂分布的特性。
工作原理
定义目标分布：假设目标分布 ( p(x) ) 已知，但其形式复杂，直接采样或计算归一化常数 ( Z = \int p(x) dx ) 很困难。 构造马尔可夫链：构造一个马尔可夫链，使其具有目标分布 ( p(x) ) 作为稳态分布。 采样：从马尔可夫链中生成样本，通过这些样本近似目标分布。 统计计算：根据样本计算所需的统计量，例如期望值：[\mathbb{E}[f(x)] \approx \frac{1}{N} \sum_{i=1}^N f(x_i)] 常见的 MCMC 算法
Metropolis-Hastings 算法
Metropolis-Hastings 是最基本的 MCMC 算法。
步骤：
- 初始化点 ( x_0 )。
- 从提议分布 ( q(x’|x_t) ) 中生成候选点 ( x’ )。
- 计算接受概率：[\alpha = \min\left(1, \frac{p(x’) q(x_t | x’)}{p(x_t) q(x’ | x_t)}\right)]
- 以概率 ( \alpha ) 接受 ( x’ )，否则拒绝 ( x’ ) 并保持 ( x_{t+1} = x_t )。
- 重复上述步骤。
优点：
缺点：
Gibbs Sampling
Gibbs 采样是 Metropolis-Hastings 算法的一种特例，适用于高维分布。
Hamiltonian Monte Carlo (HMC)
HMC 使用哈密顿力学的思想，通过引入辅助变量（如动量）来高效探索参数空间。
关键点：
- 模拟粒子在潜在能量函数（目标分布）上的运动。
- 减少随机性，增加移动距离。
优点：
缺点：
收敛性和采样效率
燃烧期（Burn-in Period）：
- 初始样本可能未达到稳态分布。
- 丢弃初始的 ( M ) 个样本，避免初始偏差。
自相关：
- 马尔可夫链中的样本通常相关性较高，降低了独立样本的数量。
- 有效样本量（ESS）：表示独立样本的等效数量。
收敛诊断：
- 图形检查：观察链的轨迹图是否稳定。
- Gelman-Rubin 诊断：通过多条链的方差比检查收敛性。
应用场景
贝叶斯推断：
- 计算后验分布的期望或边缘分布。
- 复杂模型中的参数估计。
生成模型：
- 用于构建生成模型，例如潜在狄利克雷分布（LDA）。
物理和工程：
计算机视觉和机器学习：
优缺点
优点：
- 通用性：适用于各种复杂分布。
- 高维支持：在高维参数空间中表现较好。
- 无须归一化常数：直接对未归一化的概率密度进行采样。
缺点：
- 计算开销：每次迭代可能需要大量计算。
- 收敛性检查困难：需要额外方法判断马尔可夫链是否收敛。
- 参数调节复杂：提议分布的选择、步长等参数会影响效率。
总结
MCMC 是解决复杂概率分布采样问题的强大工具，能够在计算成本和灵活性之间实现良好的平衡。尽管其存在一些效率和收敛性方面的挑战，结合不同的 MCMC 算法（如 Metropolis-Hastings、Gibbs Sampling 和 HMC）可以广泛应用于贝叶斯推断、生成模型和高维问题求解中。
如果应用场景需要高效的采样，同时允许复杂分布和约束条件，MCMC 是不可或缺的选择。
转载地址：http://elyfk.baihongyu.com/