CleverHans随机森林黑匣子

Question

我是这方面的新手，并试图用黑匣子FGSM（来自聪明的汉斯）攻击随机森林

但是我不确定如何实现它。他们有一个blackbox example for Mnist data，但我不知道我应该把随机森林放在哪里以及应该在哪里进攻。任何帮助将不胜感激。

Answer 1

在当前教程中，黑盒模型是使用TensorFlow实现的神经网络，其预测（标签）用于训练替代模型（黑盒模型的副本）。然后使用替代模型来制作对抗性示例，这些示例将转移到黑盒模型中。

在您的情况下，您将必须替换

中的bbox_val

bbox_val = batch_eval(sess, [x], [bbox_preds], [x_sub_prev],
                        args=eval_params)[0]

根据对替代训练数据x_sub_prev的numpy数组的随机森林的预测。

您可以在以下论文中找到有关本教程中实施的攻击的更多信息：https://arxiv.org/abs/1602.02697