Процесс, который вы убиваете, - это процесс JVM, на котором выполняется ваш код Java. Так что у него вообще нет шансов что-либо сделать.
Естественно, поскольку куча - это память, которая была выделена процессу, она возвращается в пул свободной памяти системы - но не JVM, с помощью стандартного механизма Linux для уничтожения процесса.