属性约简与维数约简

Question

属性降维和降维有什么区别？

哪些方法被认为是属性缩减技术而不是维度缩减？

Answer 1

我不知道机器学习中的术语 'attribute reduction'。你能提供一个 link 这指的是什么吗？

另一方面，一些论文use the term 'attribute selection'参考了特征选择。

特征选择是一种特殊类型的降维，其中生成的特征集必须是原始特征的子集。重要的是，这意味着除了包含或排除之外，这些特征没有以任何方式被转换或改变。

一般降维通常首先将输入特征转换为新的表示，例如使用与 PCA 维度相对应的坐标转换，或者首先将数据投影到新的 space（可能更高维度）通过核函数，然后使用一些信息量来修剪新 space 中的特征。

降维还可能涉及更简单的变换，例如由于观察到的共线性，将输入特征向量的多个分量平均在一起。尽管转换很简单（取平均值），但它仍然与特征选择不同，因为新特征不是原始特征的子集。

总而言之，主要区别在于特征选择除了删除原始输入的一些信息量较少的特征外不会改变任何东西。它保持其余功能不变。降维对数据进行变换，最终的表示可能与原始输入特征有很大的不同（甚至除了维度之外）。