为什么用 shuffle 调用 KFold 生成器会给出相同的索引?
Why does calling the KFold generator with shuffle give the same indices?
使用 sklearn,当您创建一个新的 KFold 对象并且 shuffle 为真时,它会产生一个不同的、新的随机折叠索引。但是,给定 KFold 对象的每个生成器都会为每个折叠提供相同的索引,即使 shuffle 为 true 也是如此。为什么会这样?
示例:
from sklearn.cross_validation import KFold
X = np.array([[1, 2], [3, 4], [1, 2], [3, 4]])
y = np.array([1, 2, 3, 4])
kf = KFold(4, n_folds=2, shuffle = True)
for fold in kf:
print fold
print '---second round----'
for fold in kf:
print fold
输出:
(array([2, 3]), array([0, 1]))
(array([0, 1]), array([2, 3]))
---second round----#same indices for the folds
(array([2, 3]), array([0, 1]))
(array([0, 1]), array([2, 3]))
这个问题的动机是对此 的评论。我决定将其拆分为一个新问题,以防止该答案变得太长。
具有相同 KFold 对象的新迭代不会重新排列索引,这只会在对象实例化期间发生。 KFold()
永远看不到数据,但知道样本数,因此它使用它来打乱索引。来自 KFold 实例化期间的代码:
if shuffle:
rng = check_random_state(self.random_state)
rng.shuffle(self.idxs)
每次调用生成器迭代每个折叠的索引时,它将使用相同的混洗索引并以相同的方式划分它们。
查看 KFold _PartitionIterator(with_metaclass(ABCMeta))
的基数 class 的 code,其中定义了 __iter__
。基础 class 中的 __iter__
方法调用 KFold 中的 _iter_test_indices
来划分和生成每个折叠的训练和测试索引。
使用 sklearn,当您创建一个新的 KFold 对象并且 shuffle 为真时,它会产生一个不同的、新的随机折叠索引。但是,给定 KFold 对象的每个生成器都会为每个折叠提供相同的索引,即使 shuffle 为 true 也是如此。为什么会这样?
示例:
from sklearn.cross_validation import KFold
X = np.array([[1, 2], [3, 4], [1, 2], [3, 4]])
y = np.array([1, 2, 3, 4])
kf = KFold(4, n_folds=2, shuffle = True)
for fold in kf:
print fold
print '---second round----'
for fold in kf:
print fold
输出:
(array([2, 3]), array([0, 1]))
(array([0, 1]), array([2, 3]))
---second round----#same indices for the folds
(array([2, 3]), array([0, 1]))
(array([0, 1]), array([2, 3]))
这个问题的动机是对此
具有相同 KFold 对象的新迭代不会重新排列索引,这只会在对象实例化期间发生。 KFold()
永远看不到数据,但知道样本数,因此它使用它来打乱索引。来自 KFold 实例化期间的代码:
if shuffle:
rng = check_random_state(self.random_state)
rng.shuffle(self.idxs)
每次调用生成器迭代每个折叠的索引时,它将使用相同的混洗索引并以相同的方式划分它们。
查看 KFold _PartitionIterator(with_metaclass(ABCMeta))
的基数 class 的 code,其中定义了 __iter__
。基础 class 中的 __iter__
方法调用 KFold 中的 _iter_test_indices
来划分和生成每个折叠的训练和测试索引。