Классификаторы точности и прогноза

Question

Я обучил LSTM И дерево решений для своего набора данных (тип классификации текста). Я использовал проверку K-Cross Fold при k = 10.

Точность дерева решений 61% Точность LSTM 90%

Теперь, когда я прогнозирую полностью невидимые данные, дерево решений прогнозирует более хорошие и хорошие результаты по сравнению с LSTM.

Почему это происходит? Если точность LSTM больше, то почему дерево решений работает лучше на невидимых данных по сравнению с LSTM?

Answer 1

Ваша модель LSTM может иметь большую точность, чем дерево решений при обучении, но тот факт, что она плохо обобщается на невидимые данные, указывает на то, что LSTM подходит для данных обучения. Попробуйте отрегулировать разделение и размер партии для проверки поезда, чтобы увидеть, улучшит ли это ваши модели.

Потеря проверки во время обучения будет указывать, какая модель лучше. Вы также можете попробовать использовать случайные леса (кластер деревьев решений), которые, как известно, дают лучшие результаты, чем одно дерево решений