在 data.table 中使用 := 和 paste()
Using := in data.table with paste()
我已经开始将 data.table
用于大量人口模型。到目前为止,我印象深刻,因为使用 data.table 结构将我的模拟运行时间减少了大约 30%。我正在尝试进一步优化我的代码并包含一个简化的示例。我的两个问题是:
- 是否可以在此代码中使用
:=
运算符?
- 使用
:=
运算符会更快吗(不过,如果我能够回答我的第一个问题,我应该能够回答我的问题 2!)?
我在运行 Windows 7 和 data.table
版本 1.9.4 的机器上使用 R 版本 3.1.2。
这是我的可重现示例:
library(data.table)
## Create example table and set initial conditions
nYears = 10
exampleTable = data.table(Site = paste("Site", 1:3))
exampleTable[ , growthRate := c(1.1, 1.2, 1.3), ]
exampleTable[ , c(paste("popYears", 0:nYears, sep = "")) := 0, ]
exampleTable[ , "popYears0" := c(10, 12, 13)] # set the initial population size
for(yearIndex in 0:(nYears - 1)){
exampleTable[[paste("popYears", yearIndex + 1, sep = "")]] <-
exampleTable[[paste("popYears", yearIndex, sep = "")]] *
exampleTable[, growthRate]
}
我正在尝试做类似的事情:
for(yearIndex in 0:(nYears - 1)){
exampleTable[ , paste("popYears", yearIndex + 1, sep = "") :=
paste("popYears", yearIndex, sep = "") * growthRate, ]
}
但是,这不起作用,因为粘贴不适用于 data.table
,例如:
exampleTable[ , paste("popYears", yearIndex + 1, sep = "")]
# [1] "popYears10"
我浏览了data.table documentation。 FAQ 的第 2.9 节使用 cat
,但这会产生空输出。
exampleTable[ , cat(paste("popYears", yearIndex + 1, sep = ""))]
# [1] popYears10NULL
此外,我尝试搜索 Google 和 rseek.org,但没有找到任何内容。如果缺少明显的搜索词,我将不胜感激搜索提示。我一直发现搜索 R 运算符很难,因为搜索引擎不喜欢符号(例如,“:=
”)并且 "R" 可能含糊不清。
## Start with 1st three columns of example data
dt <- exampleTable[,1:3]
## Run for 1st five years
nYears <- 5
for(ii in seq_len(nYears)-1) {
y0 <- as.symbol(paste0("popYears", ii))
y1 <- paste0("popYears", ii+1)
dt[, (y1) := eval(y0)*growthRate]
}
## Check that it worked
dt
# Site growthRate popYears0 popYears1 popYears2 popYears3 popYears4 popYears5
#1: Site 1 1.1 10 11.0 12.10 13.310 14.6410 16.10510
#2: Site 2 1.2 12 14.4 17.28 20.736 24.8832 29.85984
#3: Site 3 1.3 13 16.9 21.97 28.561 37.1293 48.26809
编辑:
因为使用 set()
加快速度的可能性不断出现在评论中,我将把这个额外的选项放在那里。
nYears <- 5
## Things that only need to be calculated once can be taken out of the loop
r <- dt[["growthRate"]]
yy <- paste0("popYears", seq_len(nYears+1)-1)
## A loop using set() and data.table's nice compact syntax
for(ii in seq_len(nYears)) {
set(dt, , yy[ii+1], r*dt[[yy[ii]]])
}
## Check results
dt
# Site growthRate popYears0 popYears1 popYears2 popYears3 popYears4 popYears5
#1: Site 1 1.1 10 11.0 12.10 13.310 14.6410 16.10510
#2: Site 2 1.2 12 14.4 17.28 20.736 24.8832 29.85984
#3: Site 3 1.3 13 16.9 21.97 28.561 37.1293 48.26809
与列名作斗争是一个强有力的指标,表明宽格式可能不是给定问题的最佳选择。因此,我建议以长格式进行计算,最后将结果从长格式重塑为宽格式。
nYears = 10
params = data.table(Site = paste("Site", 1:3),
growthRate = c(1.1, 1.2, 1.3),
pop = c(10, 12, 13))
long <- params[CJ(Site = Site, Year = 0:nYears), on = "Site"][
, growth := cumprod(shift(growthRate, fill = 1)), by = Site][
, pop := pop * growth][]
dcast(long, Site + growthRate ~ sprintf("popYears%02i", Year), value.var = "pop")
Site growthRate popYears 0 popYears 1 popYears 2 popYears 3 popYears 4 popYears 5 popYears 6 popYears 7 popYears 8 popYears 9 popYears10
1: Site 1 1.1 10 11.0 12.10 13.310 14.6410 16.10510 17.71561 19.48717 21.43589 23.57948 25.93742
2: Site 2 1.2 12 14.4 17.28 20.736 24.8832 29.85984 35.83181 42.99817 51.59780 61.91736 74.30084
3: Site 3 1.3 13 16.9 21.97 28.561 37.1293 48.26809 62.74852 81.57307 106.04499 137.85849 179.21604
说明
首先,使用交叉连接函数 CJ()
和随后的右连接 Site
:
将参数扩展到涵盖 11 年(包括第 0 年)
params[CJ(Site = Site, Year = 0:nYears), on = "Site"]
Site growthRate pop Year
1: Site 1 1.1 10 0
2: Site 1 1.1 10 1
3: Site 1 1.1 10 2
4: Site 1 1.1 10 3
5: Site 1 1.1 10 4
6: Site 1 1.1 10 5
7: Site 1 1.1 10 6
8: Site 1 1.1 10 7
9: Site 1 1.1 10 8
10: Site 1 1.1 10 9
11: Site 1 1.1 10 10
12: Site 2 1.2 12 0
13: Site 2 1.2 12 1
14: Site 2 1.2 12 2
15: Site 2 1.2 12 3
16: Site 2 1.2 12 4
17: Site 2 1.2 12 5
18: Site 2 1.2 12 6
19: Site 2 1.2 12 7
20: Site 2 1.2 12 8
21: Site 2 1.2 12 9
22: Site 2 1.2 12 10
23: Site 3 1.3 13 0
24: Site 3 1.3 13 1
25: Site 3 1.3 13 2
26: Site 3 1.3 13 3
27: Site 3 1.3 13 4
28: Site 3 1.3 13 5
29: Site 3 1.3 13 6
30: Site 3 1.3 13 7
31: Site 3 1.3 13 8
32: Site 3 1.3 13 9
33: Site 3 1.3 13 10
Site growthRate pop Year
然后使用累积乘积函数 cumprod()
分别针对每个 Site
从偏移增长率计算增长。轮班需要跳过每个 Site
的初始年份。然后通过乘以初始人口来计算人口。
最后,data.table 使用 dcast()
从长格式重塑为宽格式。 headers 列是使用 sprintf()
on-the-fly 创建的,以确保列的正确顺序。
我已经开始将 data.table
用于大量人口模型。到目前为止,我印象深刻,因为使用 data.table 结构将我的模拟运行时间减少了大约 30%。我正在尝试进一步优化我的代码并包含一个简化的示例。我的两个问题是:
- 是否可以在此代码中使用
:=
运算符? - 使用
:=
运算符会更快吗(不过,如果我能够回答我的第一个问题,我应该能够回答我的问题 2!)?
我在运行 Windows 7 和 data.table
版本 1.9.4 的机器上使用 R 版本 3.1.2。
这是我的可重现示例:
library(data.table)
## Create example table and set initial conditions
nYears = 10
exampleTable = data.table(Site = paste("Site", 1:3))
exampleTable[ , growthRate := c(1.1, 1.2, 1.3), ]
exampleTable[ , c(paste("popYears", 0:nYears, sep = "")) := 0, ]
exampleTable[ , "popYears0" := c(10, 12, 13)] # set the initial population size
for(yearIndex in 0:(nYears - 1)){
exampleTable[[paste("popYears", yearIndex + 1, sep = "")]] <-
exampleTable[[paste("popYears", yearIndex, sep = "")]] *
exampleTable[, growthRate]
}
我正在尝试做类似的事情:
for(yearIndex in 0:(nYears - 1)){
exampleTable[ , paste("popYears", yearIndex + 1, sep = "") :=
paste("popYears", yearIndex, sep = "") * growthRate, ]
}
但是,这不起作用,因为粘贴不适用于 data.table
,例如:
exampleTable[ , paste("popYears", yearIndex + 1, sep = "")]
# [1] "popYears10"
我浏览了data.table documentation。 FAQ 的第 2.9 节使用 cat
,但这会产生空输出。
exampleTable[ , cat(paste("popYears", yearIndex + 1, sep = ""))]
# [1] popYears10NULL
此外,我尝试搜索 Google 和 rseek.org,但没有找到任何内容。如果缺少明显的搜索词,我将不胜感激搜索提示。我一直发现搜索 R 运算符很难,因为搜索引擎不喜欢符号(例如,“:=
”)并且 "R" 可能含糊不清。
## Start with 1st three columns of example data
dt <- exampleTable[,1:3]
## Run for 1st five years
nYears <- 5
for(ii in seq_len(nYears)-1) {
y0 <- as.symbol(paste0("popYears", ii))
y1 <- paste0("popYears", ii+1)
dt[, (y1) := eval(y0)*growthRate]
}
## Check that it worked
dt
# Site growthRate popYears0 popYears1 popYears2 popYears3 popYears4 popYears5
#1: Site 1 1.1 10 11.0 12.10 13.310 14.6410 16.10510
#2: Site 2 1.2 12 14.4 17.28 20.736 24.8832 29.85984
#3: Site 3 1.3 13 16.9 21.97 28.561 37.1293 48.26809
编辑:
因为使用 set()
加快速度的可能性不断出现在评论中,我将把这个额外的选项放在那里。
nYears <- 5
## Things that only need to be calculated once can be taken out of the loop
r <- dt[["growthRate"]]
yy <- paste0("popYears", seq_len(nYears+1)-1)
## A loop using set() and data.table's nice compact syntax
for(ii in seq_len(nYears)) {
set(dt, , yy[ii+1], r*dt[[yy[ii]]])
}
## Check results
dt
# Site growthRate popYears0 popYears1 popYears2 popYears3 popYears4 popYears5
#1: Site 1 1.1 10 11.0 12.10 13.310 14.6410 16.10510
#2: Site 2 1.2 12 14.4 17.28 20.736 24.8832 29.85984
#3: Site 3 1.3 13 16.9 21.97 28.561 37.1293 48.26809
与列名作斗争是一个强有力的指标,表明宽格式可能不是给定问题的最佳选择。因此,我建议以长格式进行计算,最后将结果从长格式重塑为宽格式。
nYears = 10
params = data.table(Site = paste("Site", 1:3),
growthRate = c(1.1, 1.2, 1.3),
pop = c(10, 12, 13))
long <- params[CJ(Site = Site, Year = 0:nYears), on = "Site"][
, growth := cumprod(shift(growthRate, fill = 1)), by = Site][
, pop := pop * growth][]
dcast(long, Site + growthRate ~ sprintf("popYears%02i", Year), value.var = "pop")
Site growthRate popYears 0 popYears 1 popYears 2 popYears 3 popYears 4 popYears 5 popYears 6 popYears 7 popYears 8 popYears 9 popYears10 1: Site 1 1.1 10 11.0 12.10 13.310 14.6410 16.10510 17.71561 19.48717 21.43589 23.57948 25.93742 2: Site 2 1.2 12 14.4 17.28 20.736 24.8832 29.85984 35.83181 42.99817 51.59780 61.91736 74.30084 3: Site 3 1.3 13 16.9 21.97 28.561 37.1293 48.26809 62.74852 81.57307 106.04499 137.85849 179.21604
说明
首先,使用交叉连接函数 CJ()
和随后的右连接 Site
:
params[CJ(Site = Site, Year = 0:nYears), on = "Site"]
Site growthRate pop Year 1: Site 1 1.1 10 0 2: Site 1 1.1 10 1 3: Site 1 1.1 10 2 4: Site 1 1.1 10 3 5: Site 1 1.1 10 4 6: Site 1 1.1 10 5 7: Site 1 1.1 10 6 8: Site 1 1.1 10 7 9: Site 1 1.1 10 8 10: Site 1 1.1 10 9 11: Site 1 1.1 10 10 12: Site 2 1.2 12 0 13: Site 2 1.2 12 1 14: Site 2 1.2 12 2 15: Site 2 1.2 12 3 16: Site 2 1.2 12 4 17: Site 2 1.2 12 5 18: Site 2 1.2 12 6 19: Site 2 1.2 12 7 20: Site 2 1.2 12 8 21: Site 2 1.2 12 9 22: Site 2 1.2 12 10 23: Site 3 1.3 13 0 24: Site 3 1.3 13 1 25: Site 3 1.3 13 2 26: Site 3 1.3 13 3 27: Site 3 1.3 13 4 28: Site 3 1.3 13 5 29: Site 3 1.3 13 6 30: Site 3 1.3 13 7 31: Site 3 1.3 13 8 32: Site 3 1.3 13 9 33: Site 3 1.3 13 10 Site growthRate pop Year
然后使用累积乘积函数 cumprod()
分别针对每个 Site
从偏移增长率计算增长。轮班需要跳过每个 Site
的初始年份。然后通过乘以初始人口来计算人口。
最后,data.table 使用 dcast()
从长格式重塑为宽格式。 headers 列是使用 sprintf()
on-the-fly 创建的,以确保列的正确顺序。