Проверка градиента для обратного распространения возвращает противоречивые результаты - PullRequest
0 голосов
/ 30 января 2020

Я попытался реализовать проверку градиента на основе этой статьи

Теперь, когда я проверяю ее на градиентах в моем CNN, между примерами возникает несоответствие. Для некоторых из них проверка градиента проходит, а для других - нет.

enter image description here

Можно ли ожидать этого или следует пройти проверку градиента для всех примеров? Кроме того, я могу проверить градиент этим числовым методом на подмножестве параметров или только для всех них сразу? Спасибо

...