Если вы хотите просто вызвать jar, вам следует вызвать java с соответствующей командной строкой
java -jar "filename.jar"
Лучшим способом, если вам нужна реальная интеграция между c ++ и java, является использование нативного интерфейса java (jni), но для этого вы должны иметь возможность изменять источники в файле jar.