По умолчанию System.Runtime.Serialization.Formatters.Binary.BinaryFormatter для IObjectMessage.
Вы можете установить свои собственные, например,
IObjectMessage m = session.CreateObjectMessage();
((ActiveMQObjectMessage)m).Formatter=new SoapFormatter();//Or any IFormatter
Вам необходимо установить форматер перед доступом к IObjectMessage.Body на стороне получателя, если вы не отправляете объекты с BinaryFormatter по умолчанию.
При желании вы также можете отправлять / получать IByteMessage / ITextMessage и сериализовывать свои объекты в сообщения самостоятельно любым удобным для вас способом.