随机森林模型预测结果的差异

时间:2014-08-06 06:05:40

标签: r random-forest

我构建了一个随机森林模型,当我编写两行不同的代码以生成预测时,我得到了两个不同的预测结果。我想知道哪一个是正确的。 这是我的示例数据框和usedcode:

dat <- read.table(text = " cats birds    wolfs     snakes
      0        3        9         7
      1        3        8         4
      1        1        2         8
      0        1        2         3
      0        1        8         3
      1        6        1         2
      0        6        7         1
      1        6        1         5
      0        5        9         7
      1        3        8         7
      1        4        2         7
      0        1        2         3
      0        7        6         3
      1        6        1         1
      0        6        3         9
      1        6        1         1   ",header = TRUE)

我建立了一个随机森林模型:

model<-randomForest(snakes~cats+birds+wolfs,data=dat,ntree=20)
RF_pred<- data.frame(predict(model))
train<-cbind(train,RF_pred) # this gave me a predictive results named: "predict.model."

我出于好奇心尝试了另一种语法:

dat$RF_pred<-predict(model,newdata=dat,type='response') # this gave me a predictive results named: "RF_pred"
令我惊讶的是,我得到了其他预测结果:

 dat
   cats birds wolfs snakes predict.model.  RF_pred
1     0     3     9      7       3.513889 5.400675
2     1     3     8      4       5.570000 5.295417
3     1     1     2      8       3.928571 5.092917
4     0     1     2      3       4.925893 4.208452
5     0     1     8      3       4.583333 4.014008
6     1     6     1      2       3.766667 2.943750
7     0     6     7      1       5.486806 4.061508
8     1     6     1      5       3.098148 2.943750
9     0     5     9      7       4.575397 5.675675
10    1     3     8      7       4.729167 5.295417
11    1     4     2      7       4.416667 5.567917
12    0     1     2      3       4.222619 4.208452
13    0     7     6      3       6.125714 4.036508
14    1     6     1      1       3.695833 2.943750
15    0     6     3      9       4.115079 5.178175
16    1     6     1      1       3.595238 2.943750

为什么会有差异。两者之间?哪一个是正确的? 任何想法?

1 个答案:

答案 0 :(得分:4)

区别在于预测的两次调用:

predict(model)

predict(model, newdata=dat)

第一个选项从随机林中获取有关您的训练数据的 out-of-bag 预测。在将预测值与实际值进行比较时,这通常是您想要的。

第二个将您的训练数据视为新数据集,并在每个树上运行观察。这将导致预测和实际之间的人为密切相关,因为RF算法通常不修剪单个树,而是依赖于树的集合来控制过度拟合。因此,如果您想获得有关培训数据的预测,请不要这样做。

相关问题