在 R 中读取 .sav 文件的第一列

Read first column of .sav file in R

我想将 .sav 文件读入 R。但是,它太大了 (>11GB)。如果我只能读取部分数据,那应该没问题,但并不理想。那么,有没有办法做到以下任何一项:

感谢您的帮助!

就将整个数据集放入 R 而言,我认为您无法通过块或任何类似的变通方法读取它,并且 entire[=26] 的内存效率更高=] 数据集。但是,有一些简单的方法可以获取内存效率更高的列名和/或特定变量:

获取列名 可以使用 n_max 参数读取空数据框(带有变量和值标签)来完成:

# using n_max = 0 is much more memory efficient
bench::mark(read_sav(temp)[0,],
            read_sav(temp, n_max = 0))[1:9]
# A tibble: 2 x 9
  expression                     min   median `itr/sec` mem_alloc `gc/sec` n_itr  n_gc total_time
  <bch:expr>                <bch:tm> <bch:tm>     <dbl> <bch:byt>    <dbl> <int> <dbl>   <bch:tm>
1 read_sav(temp)[0, ]          1.11s    1.11s     0.902    76.5MB     6.31     1     7      1.11s
2 read_sav(temp, n_max = 0)   5.86ms   6.13ms   154.       97.2KB     1.98    78     1    505.6ms

获取特定的列可以用select-helpers(或索引,或名称等)完成,并且内存效率更高:

bench::mark(read_sav(temp)[c("V1", "V5")],
            read_sav(temp, col_select = matches("V(1|5)$")))[1:9]
# A tibble: 2 x 9
  expression                                           min   median `itr/sec` mem_alloc `gc/sec` n_itr  n_gc total_time
  <bch:expr>                                      <bch:tm> <bch:tm>     <dbl> <bch:byt>    <dbl> <int> <dbl>   <bch:tm>
1 read_sav(temp)[c("V1", "V5")]                      1.06s    1.06s     0.939    76.5MB     5.64     1     6      1.06s
2 read_sav(temp, col_select = matches("V(1|5)$")) 186.45ms 187.89ms     5.32    528.7KB     0        3     0    563.5ms

数据set-up:

test <- as.data.frame(matrix(1:1e7, nrow = 1e4, ncol = 1e3))
temp <- tempfile()
write_sav(test, temp)

# file.remove(temp)