Вам необходимо добавить подробности Java в файл AnypointStudio.ini, например
-vm
C:\Program Files\Java\jdk1.8.0_121\bin\javaw.exe
Пожалуйста, обратитесь этот ответ для более подробной информации.
Если вы по-прежнему получаете ту же ошибку, проверьте, установлена ли в вашей системе только одна версия Java.
Надеюсь, это поможет.