如何更新吉布斯采样中的后验分布?
How to update posterior distribution in Gibbs Sampling?
全部,我想估计先验分布为
的参数P,Q
P ~ N (A,B)
Q~N(C,D)
然后,我发现P,Q的完全条件分布是
P|Q ~ N (A*,B*)
Q|P ~ N (C*,D*)
其中 A* 是 A 、 B 、 Q 的函数 [A*=f(A,B,Q)]
B* 是 A、B、Q 的函数 [B*=f(A,B,Q)]
因此,在 Gibbs 更新步骤中,
[第一次迭代]
- 将 P_0 更新为 P_1(获得 A、B、Q_0 的信息并获取 A* _1、B* _1)
- 将Q_0更新为Q_1(有C、D的信息,P_0&得到C*_1、D*_1)
(下标表示第n次迭代的样本;0为初始值)
[第二次迭代]我的问题是:我要
- 将P_1更新为P_2(利用A、B、Q_1的信息得到A*_2、B*_2)
或者
- 更新P_1为P_2(利用A*_1,B*_1,Q_1的信息得到A*_2,B*_2)
换句话说,我们是在每个 Gibbs 步骤中使用相同的先验,还是使用前一步估计结果作为我们的先验?
我知道 Gibbs 的概念之一是更新每个参数 isolate,所以我打算使用 Q_1 的信息来更新 P_2。事先怎么样?
在每一步都使用相同的先验。开始后请勿更改先验参数,否则您将无法执行贝叶斯推理。
全部,我想估计先验分布为
的参数P,QP ~ N (A,B)
Q~N(C,D)
然后,我发现P,Q的完全条件分布是
P|Q ~ N (A*,B*)
Q|P ~ N (C*,D*)
其中 A* 是 A 、 B 、 Q 的函数 [A*=f(A,B,Q)]
B* 是 A、B、Q 的函数 [B*=f(A,B,Q)]
因此,在 Gibbs 更新步骤中,
[第一次迭代]
- 将 P_0 更新为 P_1(获得 A、B、Q_0 的信息并获取 A* _1、B* _1)
- 将Q_0更新为Q_1(有C、D的信息,P_0&得到C*_1、D*_1) (下标表示第n次迭代的样本;0为初始值)
[第二次迭代]我的问题是:我要
- 将P_1更新为P_2(利用A、B、Q_1的信息得到A*_2、B*_2) 或者
- 更新P_1为P_2(利用A*_1,B*_1,Q_1的信息得到A*_2,B*_2)
换句话说,我们是在每个 Gibbs 步骤中使用相同的先验,还是使用前一步估计结果作为我们的先验? 我知道 Gibbs 的概念之一是更新每个参数 isolate,所以我打算使用 Q_1 的信息来更新 P_2。事先怎么样?
在每一步都使用相同的先验。开始后请勿更改先验参数,否则您将无法执行贝叶斯推理。