展开恒定数量的论点

Question

我想在 C++ 上为具有 5 个参数的函数编写一个简单的梯度下降。现在我偶然发现了一个实现模型问题：我是否应该牺牲速度来折叠 vector/arrays 中的参数。这就是我的意思。我可以这样实现函数值和梯度计算：

double function(double arg1, double arg2, ..., double arg5);
double functionGradient1(double arg1, double arg2, ..., double arg5);
double functionGradient2(double arg1, double arg2, ..., double arg5);
...
double functionGradient5(double arg1, double arg2, ..., double arg5);

或：

double function(double * args);
double functionGradientAt(double * args, int i);

最后一个更容易实现，但是如果我要不断地 allocate/free 内存，恐怕我会失去很多速度。

我的问题是：

你会选择哪一个？
如果你曾经实现过梯度下降，你是如何处理这种情况的？

Answer 1

Which one would YOU pick?

我会选择：

double function(const vector<double> &args);

或者如果它必须来自您的示例，那么：

double function(double * args);

原因是我不相信像这样展开参数会增加任何明显的加速，但它确实使代码看起来很丑。

If you ever implemented gradient descent, how did you handle the case?

我用向量处理了它。

梯度下降的速度可能更多地取决于您执行的迭代次数，而不是您如何传递这些参数。如果你想尽可能快，我建议不要自己实现它，而是找一个实现它的库。 This question 对此有很多好的建议。

Answer 2

在这两种情况下：双函数梯度 5（双 arg1，双 arg2，...，双 arg5）；也双函数（双*参数）；您可能需要分配相同数量的内存。第一个解决方案是在堆中分配内存，第二个解决方案你必须自己处理，所以对你来说不太方便，但另一方面你可以遍历参数，所以在某些情况下它可以变得更好。

展开恒定数量的论点

Unfolding Constant Amount Of Arguments

c++

gradient-descent