Согласно документации можно автоматически получить дамп кучи, когда приложение обнаружит исключение OutOfMemoryException.
После OutOfMemoryException процесс просто исчезнет из левого меню.
Как эта функция работает в VisualVM?
Спасибо.
C: \ work \ temp> java -XX: HeapDumpPath = c: /work/temp/file.hprof -XX: + HeapDumpOnOutOfMemoryError -jar example.jar