基于模型的优化(在 mlrMBO 中)需要多少次迭代?
How many iterations for model-based optimization (in mlrMBO) are necessary?
我想在 R (mlrMBO) 的 mlr-Package 中使用基于模型的优化来调整我的超参数。
这里推荐多少次迭代?
我读过 MBO 中必要的迭代次数取决于超参数的数量,应该乘以某个因子?
遗憾的是,对此没有通用的答案。除了超参数的数量之外,任务的难度和一般的优化环境也会影响可能需要的迭代次数。此外,这取决于您正在寻找的性能水平——如果您绝对需要最佳性能,您可能需要 很多 次迭代(数千次或更多次)。
一个好的经验法则是根据可用资源确定迭代次数。您需要几分钟后得到答复,还是可以 运行 过夜?我将从一个小测试 运行 开始,只有几次迭代,以了解在您的特定情况下需要多长时间,然后根据此设置真实 运行 的迭代次数以及如何你想花多长时间。
使用不同的随机种子和相同的迭代次数以及相同的随机种子和不同的迭代次数进行多次 运行 也是一个好主意。这将告诉您 运行 更长的时间可以获得多少性能,例如如果 100 次和 1000 次迭代没有区别,那么给它更多可能不值得。
我想在 R (mlrMBO) 的 mlr-Package 中使用基于模型的优化来调整我的超参数。 这里推荐多少次迭代? 我读过 MBO 中必要的迭代次数取决于超参数的数量,应该乘以某个因子?
遗憾的是,对此没有通用的答案。除了超参数的数量之外,任务的难度和一般的优化环境也会影响可能需要的迭代次数。此外,这取决于您正在寻找的性能水平——如果您绝对需要最佳性能,您可能需要 很多 次迭代(数千次或更多次)。
一个好的经验法则是根据可用资源确定迭代次数。您需要几分钟后得到答复,还是可以 运行 过夜?我将从一个小测试 运行 开始,只有几次迭代,以了解在您的特定情况下需要多长时间,然后根据此设置真实 运行 的迭代次数以及如何你想花多长时间。
使用不同的随机种子和相同的迭代次数以及相同的随机种子和不同的迭代次数进行多次 运行 也是一个好主意。这将告诉您 运行 更长的时间可以获得多少性能,例如如果 100 次和 1000 次迭代没有区别,那么给它更多可能不值得。