Извините, так поздно.Я только столкнулся с подобной проблемой.Нет класса mBean, но есть универсальные классы объектов.Также в URL вашего сервиса отсутствует часть.ObjectName - это имя mbean, а methodName - это вызываемая функция.
MBeanServerConnection connection = null;
HashMap<String,String[]> jmxEnv = new HashMap<String, String[]>();
String[] credentials = new String[2];
credentials[0] = JMX_User;
credentials[1] = JMX_Password;
jmxEnv.put(JMXConnector.CREDENTIALS,credentials);
JMXServiceURL serverUrl = null;
serverUrl = new JMXServiceURL("service:jmx:rmi://"+JMX_Server+":"+JMX_Port+"/jndi/rmi://"+JMX_Server+":"+JMX_Registry_Port+"/server");
connection = JMXConnectorFactory.connect(serverUrl, jmxEnv).getMBeanServerConnection();
ObjectName beanName = null;
beanName = new ObjectName("ObjectName");
Object[] params = new Object[1];
params[0]=fileName;
String[] signature = new String[0];
connection.invoke(beanName, "methodName", params, signature);