如何评估加权高斯混合模型中的样本?
How do I evaluate a sample in a weighted Gaussian Mixture Model?
短版:
如果我有一个包含 n 个组件的 MoG 模型,每个组件都有单独的权重 w^n。
我有一个样品。我想计算这个样本是从 MoG 中抽取的概率。我可以轻松评估各个高斯,但我不知道如何考虑他们的权重或汇总他们的分数。
更长的版本:
我在 matlab 中使用 MoG 模型作为机器学习算法。我正在对 Monte Carlo 样式进行采样,因此需要执行重要性重新加权,这涉及评估从 MoG 模型中抽取特定样本的可能性。我可以轻松评估单个高斯,但我不确定如何对整个 MoG 模型进行评估,同时考虑所有组件和权重。
不是数学答案,但 Matlab 使用 'pdf' 方法提供 pdf 评估。
y = pdf(obj,X)
其中 obj 是 gmdistribution 对象。
我猜数学答案是:
y = p(x | M) = \sum_i p(x | N_i) * w_i
其中 p(x | M)
是从混合 M
中采样 x
的概率,它转换为从中采样的 x
概率的加权和每个高斯 N_i
由从正常 N_i
采样的先验概率加权(w_i
,在训练期间获得的权重)。
在此处查找有关如何从 GMM 进行训练或采样的详细文档:
http://guneykayim-msc.googlecode.com/svn-history/r20/trunk/doc/common/GMM.pdf
短版:
如果我有一个包含 n 个组件的 MoG 模型,每个组件都有单独的权重 w^n。 我有一个样品。我想计算这个样本是从 MoG 中抽取的概率。我可以轻松评估各个高斯,但我不知道如何考虑他们的权重或汇总他们的分数。
更长的版本:
我在 matlab 中使用 MoG 模型作为机器学习算法。我正在对 Monte Carlo 样式进行采样,因此需要执行重要性重新加权,这涉及评估从 MoG 模型中抽取特定样本的可能性。我可以轻松评估单个高斯,但我不确定如何对整个 MoG 模型进行评估,同时考虑所有组件和权重。
不是数学答案,但 Matlab 使用 'pdf' 方法提供 pdf 评估。
y = pdf(obj,X)
其中 obj 是 gmdistribution 对象。
我猜数学答案是:
y = p(x | M) = \sum_i p(x | N_i) * w_i
其中 p(x | M)
是从混合 M
中采样 x
的概率,它转换为从中采样的 x
概率的加权和每个高斯 N_i
由从正常 N_i
采样的先验概率加权(w_i
,在训练期间获得的权重)。
在此处查找有关如何从 GMM 进行训练或采样的详细文档:
http://guneykayim-msc.googlecode.com/svn-history/r20/trunk/doc/common/GMM.pdf