У меня было то же сообщение об ошибке при попытке запустить файл JAR, созданный с помощью JavaFX 11 в IntelliJ.
Вам просто не хватает двух дополнительных шагов:
- создать дополнительный Метод main в классе, который не расширяет приложение и просто вызывает ваш настоящий метод main.
- включает файлы .so в JAR.
To сделать это в IntelliJ, это:
Файл> Структура проекта> Артефакты> щелкните символ «+»> Файл> и затем выберите все .so файлы в папке JavaFX.