Состязательное обучение и тестирование

Question

Возможно, это скорее концептуальная проблема, но я надеюсь, что вы можете высказать мне свое мнение. Я понимаю, что состязательное обучение означает введение некоторых искаженных примеров в учебный процесс, чтобы запутать модель и дать ложный прогноз при тестировании. Однако применима ли эта модель в следующем сценарии ?: Давайте предположим, что создан противоборствующий патч, чтобы обмануть классификатор, который обнаруживает знак остановки, поэтому детектор нормальных объектов не сможет различить настоящий знак остановки в присутствии этого патча. Но что, если модель обучает оба экземпляра с и без патчей? Это не так сложно для классификатора объекта, и атака теряет все шансы на успех, верно? Я не понимаю, почему эти атаки могут быть успешными, если для модели потребуется лишь немного больше обучения, чтобы включить эти противоборствующие образцы.

Answer 1

Я сомневаюсь, что многие ученые ответят на ваш вопрос здесь.Нужно просто пойти и найти своего старшего П.х.д. в своей школе.Моя тема исследований больше касается области SLAM, но я все же постараюсь ответить на нее.

Вы можете тренироваться на модифицированном наборе входов.Но сама модель изменится должным образом после того, как вы продолжите обучение с измененным образцом набора.Он потеряет исходные атрибуты для выполнения задачи A, но для большей оптимизации для задачи B, где могут быть связаны задача A и задача B.

Затем атака также должна быть модифицирована, чтобы сосредоточиться на измененных атрибутах, что означает обмануть ее чем-то еще.

Но если вы пойдете этим путем, вы победите свою изначальную цель.

Надеюсь, это ответ, который вы ищете.

Найдите научную группу в Wechat, QQ, WhatsApp.там легче получить ответы