Нужна ли вам проверка синтаксиса (то есть проверка, является ли код допустимым и компилируемым), или просто подсветка синтаксиса (делая его красивыми цветами)? Если последнее, то ищите редактор подсветки синтаксиса, а не «Редактор Java».
Если вам нужна реальная проверка синтаксиса, вам, вероятно, придется либо сделать это на стороне сервера (с помощью вызова Ajax), либо написать апплет Java, чтобы сделать это на странице. Написание Java-синтаксического анализатора на JavaScript, безусловно, возможно, но, вероятно, выходит за рамки практических возможностей того, что вы пытаетесь сделать.
В любом случае, эта статья в Википедии была бы отличным местом для начала: Сравнение редакторов исходного кода на основе JavaScript .