Случайный лес черный ящик с CleverHans

Question

Я новичок в этом деле и пытаюсь атаковать Случайный Лес с помощью FGSM Black Box (от умных ханов)

Но я не уверен, как это реализовать.У них есть пример черного ящика для данных Mnist , но я не понимаю, куда мне поместить мой случайный лес и где я должен атаковать.Любая помощь будет оценена.

Answer 1

В текущем руководстве модель черного ящика представляет собой нейронную сеть, реализованную с помощью TensorFlow, и ее прогнозы (метки) используются для обучения замещающей модели (копии модели черного ящика).Затем замещающая модель используется для создания состязательных примеров, которые переходят к модели черного ящика.

В вашем случае вам придется заменить bbox_val в

bbox_val = batch_eval(sess, [x], [bbox_preds], [x_sub_prev],
                        args=eval_params)[0]

предсказаниями вашего случайного леса в массиве замещающих обучающих данных x_sub_prev.

Более подробную информацию об атаке, реализованной в этом руководстве, можно найти в следующей статье: https://arxiv.org/abs/1602.02697