Если вы возвращаете double или float из MBean, jconsole, похоже, округляет его до ближайшего целого числа.
Хитрость заключается в том, чтобы вернуть Double или Float. Jconsole ищет классы-обертки, чтобы определить, когда показывать десятичные знаки.