Какую функцию потерь выбрать для задачи классификации последовательности?

Question

Моя проблема выглядит следующим образом: Вход: [последовательность символов]

Выход: [последовательность символов]

И вход, и выход являются представлениями BOW.

Например X = [12,3,4,5,6] ---> Y = [1,4,5,7,8]

Я планирую использовать Keras LSTM для вышеуказанной задачи.

Какой должна быть моя функция потери?

Answer 1

Наиболее стандартным способом является моделирование выходного распределения с использованием softmax, подходящей функцией потерь является категориальная кросс-энтропия.

Стандартная категориальная кросс-энтропия ожидает целевые значения в виде векторов с одной горячей точкой. Если вы хотите использовать индексы в Y напрямую, используйте разреженную категориальную перекрестную энтропию.

(см. Пример два в этого урока , похоже, он делает именно то, что вам нужно.)