使用 Sympy returns 空列表的最大似然函数

Question

我想创建一个函数，该函数将 return 由最大似然函数计算的估计量。我做的功能如下：

def Maximum_Likelihood(param, pmf):
    
    i = symbols('i', positive=True)
    n = symbols('n', positive=True)
    
    Likelihood_function = Product(pmf, (i, 1, n)) 
    # calculate partial derivative for parameter (p for Bernoulli)
    deriv = diff(Likelihood_function, param) 
    equation_to_solve = Eq(deriv,0) # equate with 0
    
    # solve above equation and return parameter (p for Bernoulli)
    return solve(equation_to_solve, param)

Param 表示我想知道估算器的参数，pmf 是概率质量函数。

例如，我想获得伯努利分布中参数 p 的估计量。最大似然应该是这样的：

我的代码。进口：

import numpy as np
import sympy as sym

from sympy.solvers import solve

from sympy import Product, Function, oo, IndexedBase, diff, Eq, symbols

现在，我使用 Sympy 定义了它：

def Maximum_Likelihood(param, pmf):
    
    i = symbols('i', positive=True)
    n = symbols('n', positive=True)
    
    Likelihood_function = Product(pmf, (i, 1, n)) 
    deriv = diff(Likelihood_function, param) 
    equation_to_solve = Eq(deriv,0) 
    
    return solve(equation_to_solve, param)

和伯努利示例：

x = IndexedBase('x')
i = symbols('i', positive=True)
n = symbols('n', positive=True)
formula = (p**x[i])*((1-p)**(1-x[i]))

Likelihood_function = Product(formula, (i, 1, n))
Likelihood_function

当我想获得 Maximum_Likelihood(param, pmf) 的结果时：

param = p 
pmf = formula
print(Maximum_Likelihood(param, pmf))

我得到“[]”。我想获得应该如下所示的 p 估计量：

能否请您看一下并指出我做错了什么。谢谢！

Answer 1

出于某种原因，产品的差异实际上并没有评估导数，但您可以使用 doit 强制评估：

In [14]: solve(Eq(diff(Product(p**x[i]*(1 - p)**(1 - x[i]), (i, 1, n)), p), 0).doit(), p)
Out[14]: 
⎡  n       ⎤
⎢ ___      ⎥
⎢ ╲        ⎥
⎢  ╲       ⎥
⎢  ╱   x[i]⎥
⎢ ╱        ⎥
⎢ ‾‾‾      ⎥
⎢i = 1     ⎥
⎢──────────⎥
⎣    n     ⎦

也就是说 p 的 MLE 估计只是我猜测的数据的样本均值。

使用 Sympy returns 空列表的最大似然函数

Maximum Likelihood function using Sympy returns empty list

python

statistics

data-science

sympy

estimation