Когда вы говорите «Java-файл», я предполагаю, что вы имеете в виду Java-апплет.В этом случае, скажем, у вас есть код апплета на вашей странице:
<applet id="myapplet" class="MyApplet.class" ... />
Если вы хотите вызвать метод helloWorld () в этом апплете, вам просто нужно сделать это:
<script type="text/javascript>
document.getElementById['myapplet'].helloWorld();
</script>