Итак, мой выход классификатора застрял на 50%. После нескольких дней отладки я обнаружил, что логиты становятся очень большими в процессе обучения. Они либо +250, либо -300, либо что-то в этом порядке. Как ни странно, они либо ВСЕ положительные, либо ВСЕ отрицательные большие числа, это случайная вещь! Я запускаю его один раз, и они получают все + ve и запускают его снова, и все это -ve, что приводит к активации либо всегда ноль, либо всегда один.
Вот почему мне нужна нормализация партии или это другая история?
И почему это происходит?