Тензор потока для сегментации изображения: изменение размера мини-пакета прекращает обучение

Question

Я создал сеть для сегментации изображений, в частности опухолей головного мозга. Блокнот Jupyter с кодом здесь .

Когда я тренирую CNN с размером мини-партии 1, я получаю довольно хороший результат:

Но когда я изменяю размер на что-то большее (2 или более), результаты ужасны:

Тензорная доска показывает разницу в потерях. Очевидно, что сеть с пакетным размером 2 не сводит к минимуму потери (синий)

Любые идеи о том, почему это может иметь место?

Answer 1

Я нашел проблему. Я проверил свой график с помощью тензорной доски и заметил, что в CONV1 / S1 я не подключал выход ReLu к следующему слою (CONV1 / S2), вместо этого я напрямую подключал выход conv2d.

Я изменил эту строку в коде, и все работает как положено.