Я подозреваю, что плагин изображения JPEG не связан с вашим исполняемым файлом. Чтобы увидеть, какие форматы изображений доступны, попробуйте:
QImageWriter::supportedImageFormats()
Более подробную информацию смотрите в документации Qt . Если JPEG не поддерживается, соберите плагин JPEG, который поставляется с Qt, и свяжите его с вашим приложением.