scikit OneClassSvm 稀疏矩阵 return(非常)不同于密集的结果
scikit OneClassSvm sparse matrix return (very) different result than dense
我正在使用具有密集矩阵的 OneClassSVM
分类器,结果非常好。我想在我的功能中包含一些文本并使用稀疏矩阵,但是在使用稀疏矩阵时我得到的结果非常不同(而且是错误的),我不明白为什么
这是一个例子:
import io
from pandas import pandas
import scipy
from sklearn import svm
t="""A,B,C,D,E,F
11,1,2,3,4,5
11,1,2,0,3,6
11,1,2,3,2,5
11,2,0,3,1,7
11,4,2,3,0,5"""
t_test="""A,B,C,D,E,F
12,1,3,0,1,5
14,2,2,3,2,8
12,1,2,3,4,5
18,2,3,1,3,2"""
df = pandas.read_csv(io.StringIO(t), dtype=float)
df_test = pandas.read_csv(io.StringIO(t_test), dtype=float)
cl = svm.OneClassSVM(nu=0.1, kernel='rbf', gamma=0.16)
cl.fit(df)
print(cl.decision_function(df_test))
cl = svm.OneClassSVM(nu=0.1, kernel='rbf', gamma=0.16)
cl.fit(scipy.sparse.csr_matrix(df.values))
print(cl.decision_function(scipy.sparse.csr_matrix(df_test)))
结果:
#Dense
[[-0.094537 ]
[-0.13060355]
[-0.02208006]
[-0.14990236]]
#sparse
[[ -4.67612004e-311]
[ -6.79156324e-311]
[ -5.92318332e-311]
[ -6.94061414e-311]]
我还尝试了带有稀疏矩阵的 scikit OneClassSVM 示例,结果非常糟糕:https://gist.github.com/Avricot/68775656ab77217e5569
结果如下:密集矩阵(如预期):
稀疏矩阵(不正确):
稀疏矩阵有什么问题?
这是一个错误 https://github.com/scikit-learn/scikit-learn/issues/5095
它已在 5093 拉取请求中修复。
如果你愿意 - 你可以等到有人将它合并到 master 中,或者现在就使用它:
git clone https://github.com/scikit-learn/scikit-learn.git
cd scikit-learn/
git fetch origin refs/pull/5093/head:pn_5093
git checkout pn_5093
python3 setup.py install --user
我正在使用具有密集矩阵的 OneClassSVM
分类器,结果非常好。我想在我的功能中包含一些文本并使用稀疏矩阵,但是在使用稀疏矩阵时我得到的结果非常不同(而且是错误的),我不明白为什么
这是一个例子:
import io
from pandas import pandas
import scipy
from sklearn import svm
t="""A,B,C,D,E,F
11,1,2,3,4,5
11,1,2,0,3,6
11,1,2,3,2,5
11,2,0,3,1,7
11,4,2,3,0,5"""
t_test="""A,B,C,D,E,F
12,1,3,0,1,5
14,2,2,3,2,8
12,1,2,3,4,5
18,2,3,1,3,2"""
df = pandas.read_csv(io.StringIO(t), dtype=float)
df_test = pandas.read_csv(io.StringIO(t_test), dtype=float)
cl = svm.OneClassSVM(nu=0.1, kernel='rbf', gamma=0.16)
cl.fit(df)
print(cl.decision_function(df_test))
cl = svm.OneClassSVM(nu=0.1, kernel='rbf', gamma=0.16)
cl.fit(scipy.sparse.csr_matrix(df.values))
print(cl.decision_function(scipy.sparse.csr_matrix(df_test)))
结果:
#Dense
[[-0.094537 ]
[-0.13060355]
[-0.02208006]
[-0.14990236]]
#sparse
[[ -4.67612004e-311]
[ -6.79156324e-311]
[ -5.92318332e-311]
[ -6.94061414e-311]]
我还尝试了带有稀疏矩阵的 scikit OneClassSVM 示例,结果非常糟糕:https://gist.github.com/Avricot/68775656ab77217e5569
结果如下:密集矩阵(如预期):
稀疏矩阵有什么问题?
这是一个错误 https://github.com/scikit-learn/scikit-learn/issues/5095 它已在 5093 拉取请求中修复。 如果你愿意 - 你可以等到有人将它合并到 master 中,或者现在就使用它:
git clone https://github.com/scikit-learn/scikit-learn.git
cd scikit-learn/
git fetch origin refs/pull/5093/head:pn_5093
git checkout pn_5093
python3 setup.py install --user