Большинство форматов изображений уже сжаты, поэтому они больше не будут сжиматься. PDF-файлы обычно сжимаются, потому что они в основном текстовые, а в основном изображения - нет.
Кроме того, процедуры сжатия обычно предполагают, что данные пригодны для сжатия. Если вы дадите им предварительно сжатые данные, результатом может стать файл большего размера. Трудно точно сказать, что произошло, не видя ваших файлов, но я думаю, в этом причина.
Если вы хотите файл меньшего размера, вам придется уменьшить объем информации в ваших изображениях. Обрежьте их, уменьшите глубину цвета, увеличьте сжатие или уменьшите количество изображений.