Вы можете явно закодировать и установить заголовок темы:
message.setHeader("Subject", MimeUtility.encodeText("Тема.", "utf-8", "B"));
Результат:
Subject: =?utf-8?B?0uXs4C4=?=
Но обратите внимание, что если у вашего субъекта только символы ASCII, он НЕ будет закодирован.
message.setHeader("Subject", MimeUtility.encodeText("Subject.", "utf-8", "B"));
Результат:
Subject: Subject.