Cleverhans: Adversarial Images - точность классификации слишком высока

Question

Что не так с этим кодом?Я генерировал состязательные изображения с использованием API cleverhans - метод generate_np.И использование по умолчанию Cleverhans CNN классификатора для классификации изображений.Точность теста очень низкая, как и ожидалось, когда я использую модель после генерации изображений.Но если я сохраню и перезагрузлю модель, точность будет слишком высокой.Пожалуйста, проверьте код здесь.

https://github.com/csesivakumar/Adversarial_Defense/blob/master/Cleverhans_generatenp.ipynb

Python: 3,6

Answer 1

Вставка моего ответа из системы отслеживания проблем GitHub на случай, если другие столкнутся с такой же проблемой:

Из вашего кода похоже, что вы инициализируете вес модели, определяете сеанс tf и т. Д. После обучения модели с использованием Keras. Я предполагаю, что массив adv_x не содержит изображений, которые являются состязательными. Это объясняет, почему точность, полученная в [22], близка к случайной - потому что веса моделей случайны. Когда вы восстанавливаете модель, ее веса снова устанавливаются на значения, полученные во время обучения, поэтому точность восстанавливается (поскольку изображения не являются состязательными).