Сжатие принципиально отличается между PNG и JPEG, потому что PNG без потерь, а JPEG с потерями.
При JPEG параметр -quality указывает, какое качество следует сохранить.
С файлом PNG параметр -quality определяет стратегию и количество времени / усилий, которые zlib может потратить на оптимизацию вашего изображения - подумайте gzip --best против gzip --fast.
См. https://www.imagemagick.org/script/command-line-options.php#quality
Для PNG я предлагаю pngcrush, который вы можете установить с помощью homebrew, используя:
brew install pngcrush
Для JPEG, либо используйте -quality, либо укажите максимальный размер:
# Specify by quality
convert input.jpg -strip -quality 75% output.jpg
# Specify maximum size
convert input.jpg -strip -define jpeg:extent=300k output.jpg