Как вы обучаете NN с разреженными двоичными распределенными векторами?
Что я могу видеть, так это то, что используемые выходные функции - это softmax и sigmoid, которые хороши для выходов категории или небольшого числа выходов, но не для больших разреженных двоичных векторов, например, 2000 битовых векторов с ~ 50 однобитными значениями?
Выбор вероятности не работает более чем на куче битов!
Подходит ли вообще NN для разреженного двоичного кода распределенные векторы?