Ожидаемое вами поведение. Тема JMS следует семантике публикации / подписки (т.е. pub / sub), где все подписчики получают все сообщения, отправленные в тему. В вашем случае у вас есть 10 подписчиков, и вы отправляете 50 сообщений. Каждый из этих 10 подписчиков получает каждое из 50 сообщений (в соответствии с семантикой pub / sub) и затем пересылает его в очередь. Таким образом, очередь получает 500 сообщений.
Если вы хотите, чтобы все потребители делились всеми сообщениями, вам не следует использовать тему JMS, а скорее очередь JMS.