使用多项式内核调整 svm 时出现奇怪的错误消息："WARNING: reaching max number of iterations"

Question

这是我第一次使用支持向量机。我正在尝试解决此作业，但收到上述错误...代码适用于线性内核和径向内核，但不适用于多项式内核，这是我的代码：

library(e1071)
test_data = #upload test data here.
training_data= read.table('Digits_training.csv', sep =',', header = TRUE)
y = training_data$y

chosen_svm = function(y,training_data,kernel_name){
  obj <- tune.svm(y~., data = training_data, gamma = 10^(-3:1), cost = 10^(-3:1), kernel = kernel_name)
  gamma = obj$best.parameters$gamma
  cost = obj$best.parameters$cost
  model = svm(y~., data = training_data, gamma = gamma, cost = cost,  kernel = kernel_name)
  return(model)
}

radial_svm = chosen_svm(y,training_data,'radial')
lin_svm = chosen_svm(y,training_data,'linear')
pol_svm = chosen_svm(y,training_data,'polynomial')

我厌倦了稍微更改 gamma 和成本范围，并尝试使用二次多项式，但我仍然收到相同的错误消息。

知道为什么会这样吗？

Answer 1

这不是错误。这只是一个警告，意味着您的优化器没有在给定的迭代次数内收敛。不幸的是，e1071 有一个内部限制设置...您无法更改它

int max_iter = max(10000000, l>INT_MAX/100 ? INT_MAX : 100*l);

你能做什么？只需更改库，例如 http://r.gmum.net 具有完全相同的库 (libsvm)，但此限制已删除

https://github.com/gmum/gmum.r/blob/master/src/svm/svm.cpp（第 553 行）

[...]
int iter = 0;
// int max_iter = max(10000000, l>INT_MAX/100 ? INT_MAX : 100*l);
int counter = min(l,1000)+1;

while(1)
[...]

我很确定其他很多人也放弃了它。例如，在 python 的 scikit 学习中，您还可以明确说明最大迭代次数（并设置 -1 表示没有限制）。

使用多项式内核调整 svm 时出现奇怪的错误消息："WARNING: reaching max number of iterations"

Weird error message when tuning svm with polynomial kernel: "WARNING: reaching max number of iterations"

r

machine-learning

svm