Lasso Regularizer sklearn 中的 max_iter 和 tol 是什么

Question

根据文档 https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.Lasso.html，max_iter 和 tol 是什么意思？另外，如何确定 max_iter 和 tol 的值以便更好地控制优化？

Answer 1

套索回归具有唯一的最优值，但求解器是一种梯度下降算法，因此您永远不会真正达到最小值。 tol 控制您想要的接近程度：tol 越小，您的最终解决方案就越准确，但需要的时间越长。 max_iter 控制您在放弃之前在梯度下降中采取的步骤数。当更新在 tol 以内或者您已经 运行 进行了 max_iter 许多步骤时，算法将停止；如果是后者，您将收到一条警告，指出模型尚未收敛（在 tol 内）。

所以，根据自己的喜好设置tol，根据自己的计算资源设置max_iter。通常，如果您收到收敛警告，请使用默认值并增加 max_iter（and/or 更改求解器，或者如果您还没有缩放数据）。