Вы можете выделить вектор максимально возможного размера и заполнить его только частично, а затем уменьшить.
ex = c(10,11,17,9,14,1,20,1)
store <- list(length(ex))
for (i in (1:length(ex))){
if(ex[i] < 12){
store[[i]] <- ex[i]
}
}
unlist(store)
[1] 10 11 9 1 1