Вам лучше спросить в другом StackExchange, таком как CrossValidation, но вот короткий ответ.
При работе с изображениями разных размеров есть два решения. Во-первых, обрезка большого изображения в несколько подизображений и использование голосования по классу, который вы получаете за каждое подизображение. Второе решение, которое намного лучше, - это иметь полностью сверточную сеть. Вы можете заменить полностью связанные блоки большими свертками и использовать глобальный пул для слоя классификации (GlobalAveragePooling или MaxPooling).
Обратите внимание, что эти решения работают, только если изображения, которые вы получаете, больше. Если есть меньшие изображения, решение состоит в том, чтобы увеличить изображение или дополнить его. Но лучше зум.