Да, ваши уроки не сбалансированы, но у вас достаточно образов, чтобы вы справлялись с этим лучше. Как вы выбрали свой поезд / тестовый раздел? Результаты показывают, что там есть проблема рандомизации. Как бы то ни было, ваша модель изучает неправильные критерии классификации.
Это напоминает мне модель собаки / кошки, которая научилась различать фон, на котором люди фотографируют своих питомцев.
Сначала попробуйте вращать или перетасовывать тренировочные и тестовые наборы. Можете ли вы использовать перекрестную проверку в этом приложении? Это само по себе может решить вашу проблему.
Если это не удастся, можете ли вы изменить модель - возможно, включить выпадающий слой? Это помогло бы выучить неверные гипотезы.