JFX SDK, который вы скачали, содержит .jar
файлов. Вам нужно поместить эти файлы (или, по крайней мере, те, которые вам нужны) в путь к классам, а не в каталог, содержащий их. Так, например, для javafx.application.Application
вам понадобится -classpath lib/javafx.graphics.jar
.
В качестве альтернативы, вы можете использовать модульную систему Java с чем-то вроде
javac --module-path lib --add-modules javafx.graphics GUI.java