Нет необходимости возиться со слоями Dropout, ваше поведение происходит из-за неправильного экспорта модели.
Перед экспортом модели в формат только с тензорным потоком вы должны установить learning_phase
на ноль, что указывает на то, что экспортированная модель должна работать в режиме вывода / тестирования:
import keras.backend as K
K.set_learning_phase(0)
Если это не сделано, то экспортированная модель ведет себя так, как если бы она находилась в процессе обучения, а затем Dropout не работает должным образом . Более подробную информацию можно найти в блоге Keras .