Я собираюсь предположить, что, поскольку у вас есть Сообщение, полностью квалифицированное в проверке для instanceof, но не в соответствии с вашим приведением, то Сообщение, используемое в вашем приведении, не является правильным классом Сообщений.
Проверкаваш импорт и посмотрите, что Сообщение у вас там, это, вероятно, не org.jivesoftware.smack.packet.Message .