Генерация противоборствующих данных из моделей атак умных людей

Question

Мне нужен пример кода для того, как генерировать данные о поездах из атак со стороны умного Ганса.

adv_x = fgsm.generate_np(X_test, **fgsm_params)

Это генерирует состязательные данные x, но как я могу получить y?

adv_pred = model.predict_classes(adv_x)

И это даст "ошибочные" результаты правильно?

Что я хочуправильно показывать сгенерированные x, y, одураченные y (под которыми я подразумеваю результаты предсказаний моделей, которые могут быть ложными из-за атаки).Я использую Mnist, кстати, если это поможет.

Answer 1

На основании предоставленных вами фрагментов кода я хотел бы сделать два предложения:

• Как правило, не рекомендуется тренировать модель на тестовых данных (если вы собираетесь использоватьэти тестовые данные, чтобы оценить его производительность впоследствии), поэтому я бы заменил X_test на X_train в первой строке.

• Чтобы получить метку для ваших примеров состязательности, вы можете использоватьисходные метки обучающих данных или предсказания модели на исходных обучающих данных model.predict_classes(X_train) (это предполагает, что пример состязательности недостаточно возмущен, чтобы изменить метку входных данных).