Объект будет помечен как доступный после каждого цикла, поэтому он будет собран.
while(true){
Object obj = new Object(); //no further reference, so obj will be collected
}
Если вам нужно протестировать OOM, вы должны сохранить ссылку на obj в LinkedList.
List refs = new LinkedList();
while (true) {
Object obj = new Object();
refs.add(obj);
}
Тогда вы получите ООМ, как вы хотели. И вы можете использовать меньшую кучу, чтобы быстрее достичь OOM.