机器学习中超参数和启发式之间的区别?
Difference between hyperparameter and heuristic in machine learning?
在机器学习的上下文中,超参数和启发式有什么区别。如果您不是学习参数而是提前决定它,那本质上不就是一种启发式方法吗?
如果有人能提供每个的明确定义和比较,那就太好了!我希望在这种情况下我不是在比较苹果和橙子。
有趣的想法!启发式和超参数之间最明显的区别是启发式是一种有助于搜索问题的函数,它用于快速权衡不同的解决方案,而超参数本质上是模型中的"hardcoded",因此对搜索完全没有帮助。
但是,如果你定义一个启发式函数,只是returns常量超参数,那么我们真的可以说这个启发式函数确实和超参数一样。不过,我们通常不会这样看,因为这样的启发式函数(总是 returns 常数)无助于搜索最优参数。
在机器学习的上下文中,超参数和启发式有什么区别。如果您不是学习参数而是提前决定它,那本质上不就是一种启发式方法吗?
如果有人能提供每个的明确定义和比较,那就太好了!我希望在这种情况下我不是在比较苹果和橙子。
有趣的想法!启发式和超参数之间最明显的区别是启发式是一种有助于搜索问题的函数,它用于快速权衡不同的解决方案,而超参数本质上是模型中的"hardcoded",因此对搜索完全没有帮助。
但是,如果你定义一个启发式函数,只是returns常量超参数,那么我们真的可以说这个启发式函数确实和超参数一样。不过,我们通常不会这样看,因为这样的启发式函数(总是 returns 常数)无助于搜索最优参数。