Здесь может быть несколько проблем.
1) Вы должны использовать метод развертывания JavaScript для апплета (см. Ссылку).
2) Если метод, который вы пытаетесь вызвать,не в самом applet-child, вы сначала должны получить экземпляр рассматриваемого класса, а затем вызвать его метод, например (для класса Calculator):
var calculator = mathApplet.getCalculator();
calculator.setNums(numA, numB);
Moor info