按列快速连接数千个文件

Question

我正在使用 R cbind 大约 ~11000 个文件：

dat <- do.call('bind_cols',lapply(lfiles,read.delim))

慢得令人难以置信。我正在使用 R，因为我的下游处理（如创建绘图等）在 R 中进行。有哪些快速替代方法可以按列连接数千个文件？

我想要完成三种类型的文件。它们看起来像这样：

[centos@ip data]$ head C021_0011_001786_tumor_RNASeq.abundance.tsv
target_id   length  eff_length  est_counts  tpm
ENST00000619216.1   68  26.6432 10.9074 5.69241
ENST00000473358.1   712 525.473 0   0
ENST00000469289.1   535 348.721 0   0
ENST00000607096.1   138 15.8599 0   0
ENST00000417324.1   1187    1000.44 0.0673096   0.000935515
ENST00000461467.1   590 403.565 3.22654 0.11117
ENST00000335137.3   918 731.448 0   0
ENST00000466430.5   2748    2561.44 162.535 0.882322
ENST00000495576.1   1319    1132.44 0   0

[centos@ip data]$ head C021_0011_001786_tumor_RNASeq.rsem.genes.norm_counts.hugo.tab
gene_id C021_0011_001786_tumor_RNASeq
TSPAN6  1979.7185
TNMD    1.321
DPM1    1878.8831
SCYL3   452.0372
C1orf112    203.6125
FGR 494.049
CFH 509.8964
FUCA2   1821.6096
GCLC    1557.4431

[centos@ip data]$ head CPBT_0009_1_tumor_RNASeq.rsem.genes.norm_counts.tab
gene_id CPBT_0009_1_tumor_RNASeq
ENSG00000000003.14  2005.0934
ENSG00000000005.5   5.0934
ENSG00000000419.12  1100.1698
ENSG00000000457.13  2376.9100
ENSG00000000460.16  1536.5025
ENSG00000000938.12  443.1239
ENSG00000000971.15  1186.5365
ENSG00000001036.13  1091.6808
ENSG00000001084.10  1602.7165

谢谢！

Answer 1

如果你的数据都是数值型的，可以先转成矩阵，比数据框快很多：

> microbenchmark(
do.call(cbind, rep(list(sleep), 1000)),
do.call(cbind, rep(list(as.matrix(sleep)), 1000))
)
Unit: microseconds
                                              expr      min       lq       mean
            do.call(cbind, rep(list(sleep), 1000)) 6978.635 7496.690 8038.21531
 do.call(cbind, rep(list(as.matrix(sleep)), 1000))  636.282  722.814  862.01125
   median        uq       max neval
 7864.180 8397.8595 12213.473   100
  744.647  793.0695  7416.430   100

或者，如果你想要一个数据框，你可以通过使用 unlist 然后手动设置 class 作弊：

df <- unlist(rep(list(sleep), 1000), recursive=FALSE)
class(df) <- 'data.frame'

Answer 2

为了快速读取文件，我们可以使用 data.table 中的 fread，然后使用 rbindlist 中的 rbind data.table 中的 list指定 idcol=TRUE 以提供分组变量来标识每个数据集

library(data.table)
DT <- rbindlist(lapply(lfiles, fread), idcol=TRUE)

按列快速连接数千个文件

Fast concatenation of thousands of files by columns

r

cbind