全文链接：https://tecdat.cn/?p=33961

MCMC则是反过来思考——我们将平衡分布固定为后验分布：

并寻找一种转移核，使其收敛到该平衡分布。

岛屿示例

首先提供一个示例，以具体展示Metropolis算法的机制，然后探讨为什么它有效。

以一个有趣的例子开始，讲述了政治家访问一系列岛屿以争取支持的情况——由于缺乏经验，政治家使用简单的规则来确定下一个要访问的岛屿。每天，政治家选择一个相邻的岛屿，并将其人口与当前岛屿的人口进行比较。如果相邻的岛屿人口更多，则政治家前往该岛屿。如果相邻的岛屿人口更少，则政治家以概率 p=pneighbor/pcurrent=neighbor/current 访问该岛屿；否则，政治家就留在同一个岛上。经过多天的访问后，政治家最终会在每个岛上花费的时间与每个岛的人口成比例——换句话说，正确地估计了每个岛的人口分布。

    pos = start  # 起始位置   ......    for i in range(niter):        # 从建议分布中生成样本         ......        next_pos = pos + k        # 在建议位置处计算未归一化的目标分布值        next_pop = islands[next_pos]        # 计算接受概率        p = min(1, next_pop/pop)        # 使用均匀分布的随机数决定接受/拒绝建议         ......

真实人口比例

......sns.barplot(x=np.arange(len(data)), y=data)pass

估计人口比例

......sns.barplot(x=np.arange(len(data)), y=data)pass

通用 Metropolis 算法

pythonCopy Codedef metroplis(start, target, proposal, niter, nburn=0): ......        if np.random.random() < p:            current = proposed        post.append(current)    return post[nburn:]

应用于岛屿跳跃问题

pythonCopy Codetarget = lambda x: islands[x]......sns.barplot(x=np.arange(len(data)), y=data)pass

贝叶斯数据分析

贝叶斯数据分析的基本目标是确定后验分布

其中分母为

在这里，

• p(X | θ) 是似然函数，

• p(θ) 是先验分布，

• p(X) 是归一化常数，也称为证据或边缘似然

动机示例

我们将使用一个示例来估计一枚硬币的偏倚，给定一个由n次投掷组成的样本，以说明一些方法。

分析解决方案

如果我们将贝塔分布作为先验分布，那么后验分布有一个闭合形式的解。

python
......ci = post.interval(0.95)thetas = np.linspace(0, 1, 200)......plt.legend(loc='upper left')pass