Python - 在多个循环中进行 Anova 测试
Python - Anova test in multiple loops
在我的数据框中,我几乎没有分类变量和连续变量。我想对分类变量和连续变量的每个组合执行 Anova 分析 (anova_lm)。到目前为止,我只能为 1 个目标分类创建循环,并将所有连续变量作为预测变量,如下所示:
我的原始数据集 pima 包含这些列:
GENDER - categorical
AGE - continuous
EDUCATION - categorical
INCOME - categorical
RATE_INTEREST - continuous
SPD - categorical
TPD - categorical
AMT_ANNUITY - continuous
DOWNPAYMPERC - continuous
我从数据集中定义了 pima_cont,它只包含连续变量。
从数据集中我还定义了 pima_categ,它只包含分类变量。
keys = []
tables = []
for variable in pima_cont.columns:
model = ols('{} ~ EDUCATION'.format(variable), data=pima).fit()
anova_table = sm.stats.anova_lm(model, typ=2)
keys.append(variable)
tables.append(anova_table)
df_anova = pd.concat(tables, keys=keys, axis=0)
print(df_anova)
这里我要在这部分语句中手动编辑我的目标model = ols('{} ~ EDUCATION'.format(variable), data=pima).fit()
关于如何实现自动化的任何提示,因此 Python 会向我显示相同的输出,但将我所有的分类变量作为目标?
非常感谢!
亚当
您需要一个 multiIndex,只需使用下面的 2 x 2 示例:
import pandas as pd
import statsmodels.api as sm
import numpy as np
from statsmodels.formula.api import ols
pima = pd.DataFrame({'EDUCATION':np.random.choice(['A','B','C'],100),
'GENDER':np.random.choice(['M','F'],100),
'AGE':np.random.randn(100),
'RATE_INTEREST':np.random.randn(100)})
为可能的组合做一个multi-index:
index = pd.MultiIndex.from_product([['AGE','RATE_INTEREST'],['EDUCATION','GENDER']],
names=['cont', 'cat'])
index
MultiIndex([( 'AGE', 'EDUCATION'),
( 'AGE', 'GENDER'),
('RATE_INTEREST', 'EDUCATION'),
('RATE_INTEREST', 'GENDER')],
names=['cont', 'cat'])
然后类似于上面的内容:
tables = []
for cont_var,cat_var in index:
model = ols('{} ~ {}'.format(cont_var,cat_var), data=pima).fit()
anova_table = sm.stats.anova_lm(model, typ=2)
tables.append(anova_table)
df_anova = pd.concat(tables, keys=index, axis=0)
最终 table 看起来像这样:
sum_sq df F PR(>F)
AGE EDUCATION EDUCATION 0.358636 2.0 0.196421 0.821993
Residual 88.554164 97.0 NaN NaN
GENDER GENDER 0.258418 1.0 0.285659 0.594226
Residual 88.654382 98.0 NaN NaN
RATE_INTEREST EDUCATION EDUCATION 0.021586 2.0 0.012325 0.987752
Residual 84.942705 97.0 NaN NaN
GENDER GENDER 0.656981 1.0 0.763684 0.384315
Residual 84.307310 98.0 NaN NaN
在我的数据框中,我几乎没有分类变量和连续变量。我想对分类变量和连续变量的每个组合执行 Anova 分析 (anova_lm)。到目前为止,我只能为 1 个目标分类创建循环,并将所有连续变量作为预测变量,如下所示:
我的原始数据集 pima 包含这些列:
GENDER - categorical AGE - continuous EDUCATION - categorical INCOME - categorical RATE_INTEREST - continuous SPD - categorical TPD - categorical AMT_ANNUITY - continuous DOWNPAYMPERC - continuous
我从数据集中定义了 pima_cont,它只包含连续变量。 从数据集中我还定义了 pima_categ,它只包含分类变量。
keys = []
tables = []
for variable in pima_cont.columns:
model = ols('{} ~ EDUCATION'.format(variable), data=pima).fit()
anova_table = sm.stats.anova_lm(model, typ=2)
keys.append(variable)
tables.append(anova_table)
df_anova = pd.concat(tables, keys=keys, axis=0)
print(df_anova)
这里我要在这部分语句中手动编辑我的目标model = ols('{} ~ EDUCATION'.format(variable), data=pima).fit()
关于如何实现自动化的任何提示,因此 Python 会向我显示相同的输出,但将我所有的分类变量作为目标?
非常感谢! 亚当
您需要一个 multiIndex,只需使用下面的 2 x 2 示例:
import pandas as pd
import statsmodels.api as sm
import numpy as np
from statsmodels.formula.api import ols
pima = pd.DataFrame({'EDUCATION':np.random.choice(['A','B','C'],100),
'GENDER':np.random.choice(['M','F'],100),
'AGE':np.random.randn(100),
'RATE_INTEREST':np.random.randn(100)})
为可能的组合做一个multi-index:
index = pd.MultiIndex.from_product([['AGE','RATE_INTEREST'],['EDUCATION','GENDER']],
names=['cont', 'cat'])
index
MultiIndex([( 'AGE', 'EDUCATION'),
( 'AGE', 'GENDER'),
('RATE_INTEREST', 'EDUCATION'),
('RATE_INTEREST', 'GENDER')],
names=['cont', 'cat'])
然后类似于上面的内容:
tables = []
for cont_var,cat_var in index:
model = ols('{} ~ {}'.format(cont_var,cat_var), data=pima).fit()
anova_table = sm.stats.anova_lm(model, typ=2)
tables.append(anova_table)
df_anova = pd.concat(tables, keys=index, axis=0)
最终 table 看起来像这样:
sum_sq df F PR(>F)
AGE EDUCATION EDUCATION 0.358636 2.0 0.196421 0.821993
Residual 88.554164 97.0 NaN NaN
GENDER GENDER 0.258418 1.0 0.285659 0.594226
Residual 88.654382 98.0 NaN NaN
RATE_INTEREST EDUCATION EDUCATION 0.021586 2.0 0.012325 0.987752
Residual 84.942705 97.0 NaN NaN
GENDER GENDER 0.656981 1.0 0.763684 0.384315
Residual 84.307310 98.0 NaN NaN