如何更新吉布斯采样中的后验分布?

How to update posterior distribution in Gibbs Sampling?

全部,我想估计先验分布为

的参数P,Q

P ~ N (A,B)

Q~N(C,D)

然后,我发现P,Q的完全条件分布是

P|Q ~ N (A*,B*)

Q|P ~ N (C*,D*)

其中 A* 是 A 、 B 、 Q 的函数 [A*=f(A,B,Q)]

B* 是 A、B、Q 的函数 [B*=f(A,B,Q)]

因此,在 Gibbs 更新步骤中,

  1. [第一次迭代]

    • 将 P_0 更新为 P_1(获得 A、B、Q_0 的信息并获取 A* _1、B* _1)
    • 将Q_0更新为Q_1(有C、D的信息,P_0&得到C*_1、D*_1) (下标表示第n次迭代的样本;0为初始值)
  2. [第二次迭代]我的问题是:我要

    • 将P_1更新为P_2(利用A、B、Q_1的信息得到A*_2、B*_2) 或者
    • 更新P_1为P_2(利用A*_1,B*_1,Q_1的信息得到A*_2,B*_2)

换句话说,我们是在每个 Gibbs 步骤中使用相同的先验,还是使用前一步估计结果作为我们的先验? 我知道 Gibbs 的概念之一是更新每个参数 isolate,所以我打算使用 Q_1 的信息来更新 P_2。事先怎么样?

在每一步都使用相同的先验。开始后请勿更改先验参数,否则您将无法执行贝叶斯推理。