[ Обратите внимание, что в этом ответе я предполагаю, что вы используете GlassFish 5.0, который является последней версией ]
В настоящее время GlassFish не будет работать на Java 10 из-за JPMS (модульсистема).Вместо этого вам нужно использовать Java 8.
Вы также должны знать, что вам конкретно нужна Java 8u161 или ниже для GlassFish, но последняя версия Java 8 можетиспользовать с Payara Server , который будет работать так же, как GlassFish.
Если вам действительно нужно использовать GlassFish на версии Java 8 выше, чем u161, тогда вы можете использовать последняя версия 5.0.1, ночная сборка