Поскольку апплеты запускаются внутри браузера, для запуска апплета в 64-битной Java необходимо использовать 64-битный браузер.
До появления Snow Leopard (10.6) Safari был 32-разрядным.
Если вы используете 64-битный браузер, вы сможете использовать 64-битную виртуальную машину.