使用cv.glmnet并行设置种子会在R

时间:2016-01-08 12:47:48

标签: r parallel-processing random-seed glmnet

我在cv.glmnet个包中运行并行glmnet超过1000个数据集。在每次运行中,我设置种子以使结果可重复。我注意到的是我的结果不同。问题是当我在同一天运行代码时,结果是一样的。但是第二天他们就不同了。

这是我的代码:

model <- function(path, file, wyniki, faktor = 0.75) {

  set.seed(2)

  dane <- read.csv(file)

  n <- nrow(dane)
  podzial <- 1:floor(faktor*n)


  ########## GLMNET ############
  nFolds <- 3

  train_sparse <- dane[podzial,]
  test_sparse  <- dane[-podzial,]

  # fit with cross-validation
  tryCatch({
    wart <- c(rep(0,6), "nie")
    model <- cv.glmnet(train_sparse[,-1], train_sparse[,1], nfolds=nFolds, standardize=FALSE)

    pred <- predict(model, test_sparse[,-1], type = "response",s=model$lambda.min)

    # fetch of AUC value
    aucp1 <- roc(test_sparse[,1],pred)$auc

  }, error = function(e) print("error"))

  results <- data.frame(auc = aucp1, n = nrow(dane))
  write.table(results, wyniki, sep=',', append=TRUE,row.names =FALSE,col.names=FALSE)


}

path <- path_to_files
files <- list.files(sciezka, full.names = TRUE, recursive = TRUE)
wyniki <- "wyniki_adex__samplingfalse_decl_201512.csv"

library('doSNOW')
library('parallel')

#liczba watkow
threads <- 5

#rejestrujemy liczbe watkow
cl <- makeCluster(threads, outfile="")
registerDoSNOW(cl)

message("Loading packages on threads...")
clusterEvalQ(cl,library(pROC))
clusterEvalQ(cl,library(ROCR))
clusterEvalQ(cl,library(glmnet))
clusterEvalQ(cl,library(stringi))

message("Modelling...")
foreach(i=1:length(pliki)) %dopar% {
  print(i)
  model(path, files[i], wyniki)
}

有谁知道原因是什么? 我正在运行CentOS Linux 7.0.1406版(核心版)/ Red Hat 4.8.2-16

2 个答案:

答案 0 :(得分:1)

根据Writing R Extensions,需要一个C包装器来从FORTRAN调用R的正常随机数。我在glmnet来源中看不到任何C代码。我担心它看起来没有实现:

6.6 Calling C from FORTRAN and vice versa

答案 1 :(得分:1)

cv.glmnet函数的文档中找到答案:

  

另请注意,cv.glmnet的结果是随机的,因为折叠   是随机选择的。

解决方案是手动设置折叠,以便不随机选择:

nFolds <- 3
foldid <- sample(rep(seq(nFolds), length.out = nrow(train_sparse))
model <- cv.glmnet(x = as.matrix(x = train_sparse[,-1], 
                   y = train_sparse[,1], 
                   nfolds = nFolds,
                   foldid = foldid,
                   standardize = FALSE)
相关问题