Вы можете получить список доступных кодировок, используя команду:
pdftotext -listenc
и выберите правильный, используя аргумент -enc. Мой здесь, кажется, делает UTF-8 по умолчанию. т. е. ваш "UTF-8" излишний
pdftotext -enc UTF-8 your.pdf
Возможно, вы захотите проверить свою локаль (LC_ALL, LANG, ...).
EDIT:
Я скачал следующий PDF:
http://www.i18nguy.com/unicode/unicodeexample.pdf
и преобразовал его на ПК с Windows 7 (немецкий) и XPDF 3.02PL5 с помощью команды:
pdftotext.exe -enc UTF-8 unicodeexample.pdf
Текстовый файл определенно имеет кодировку UTF-8, так как все символы отображаются правильно. Для чего вы используете текстовый файл? Если вы отображаете его через веб-приложение, кодировка содержимого может быть просто неправильной, а текстовый файл преобразован так, как вы этого хотели.
Перепроверьте, используя браузер (принудительное кодирование в Firefox по ISO-8859-1 и UTF-8) или шестнадцатеричный редактор.