Ответ на первый пункт - «нет» - Xmx относится к куче Java, а любые собственные выделения полностью отделены.
Ответ на второй пункт - «да» - на собственные выделения распространяются общие ограничения на распределение процессов, присущие O / S и / или аппаратному обеспечению.