并行化采用外部指针的函数 (XPtr)

Question

这个问题既不是 this one 的重复问题，也不是 this one，这是关于返回外部指针的函数。

问题来了。下面的 Rcpp 代码定义了两个函数，一个创建一个 XPtr，另一个可以在 XPtr 上工作。

#include <Rcpp.h>
using namespace Rcpp;

//[[Rcpp::export]]
SEXP f(int n) {
  std::vector<int> * v = new std::vector<int>;

  for(int i = 0; i < n; i++)
    v->push_back(i);

  XPtr< std::vector<int> > p(v, true);
  return p;
}

//[[Rcpp::export]]
int g(XPtr< std::vector<int> > p, int i) {
  return (*p)[i];

而且效果很好：

> x <- f(100)
> g(x, 45)
[1] 45

让我们尝试并行化对 g 的调用。这有效：

require(parallel)
test1 <- function(a) {
  cl <- makeForkCluster(nnodes=2)
  r <- parLapply(cl, 1:5, function(i) g(a,i) )
  stopCluster(cl)
  return(r)
}

预期行为：

> unlist( test1(x) )
[1] 1 2 3 4 5

但这行不通：

test2 <- function(a) {
  cl <- makeForkCluster(nnodes=2)

  p <- g(a, 0)
  r <- parLapply(cl, 1:5, function(i) g(a,i) )
  stopCluster(cl)
  return(r)
}

意外行为：

> test2(x)
Error in checkForRemoteErrors(val) : 
  2 nodes produced errors; first error: external pointer is not valid

问题似乎是因为在调用集群中的从属之前在函数中使用了一次外部指针。如何解释此行为，是否有解决方法？非常感谢。

Answer 1

在函数的开头，a 是一个承诺，即表示在特定环境中计算特定表达式的内容。当您访问变量时，会计算表达式，因此现在 a 是一个指针，并且该指针特定于特定的 R 实例。您可以使用 pryr::promise_info:

查看此内容

test2 <- function(a) {
  cl <- makeForkCluster(nnodes = 2)
  print(pryr::promise_info(a))
  p <- g(a, 0)
  print(pryr::promise_info(a))
  stopCluster(cl)
  return(r)
}

输出：

$code
x

$env
<environment: R_GlobalEnv>

$evaled
[1] FALSE

$value
NULL

$code
x

$env
NULL

$evaled
[1] TRUE

$value
<pointer: 0x565295e3a410>

一种解决方法是使用 eval(substitute(a)):

test2 <- function(a) {
  cl <- makeForkCluster(nnodes = 2)
  print(pryr::promise_info(a))
  p <- g(eval(substitute(a)), 0)
  print(pryr::promise_info(a))
  r <- parLapply(cl, 1:5, function(i) g(a,i) )
  stopCluster(cl)
  return(r)
}

我确信有更好的方法。不规范的评价对我来说还是有点陌生...

并行化采用外部指针的函数 (XPtr)

Parallelize function taking external pointers (XPtr)

r

rcpp

rparallel