Входной сигнал смещения отсутствует, поэтому он равен 0. Производная от 0 в ReLU не определена.Как обновлять смещение, если функция активации - ReLU?