Я тренируюсь в CNN в стиле LeNet5, и потеря не достигает go вниз. Вместо этого я получаю странную картину: во-первых, стоимость онлайн SGD немного снижается. Затем он постоянно скачет с почти нуля до 8-9. У кого-нибудь есть интуиция о возможных причинах из этого графика?
