Вы должны сохранить ссылку на каждое из созданных вами текстовых представлений, если хотите их удалить.
Если я правильно понимаю ваш вопрос, просто создайте массив TextViews с 5 элементами и запустите цикл, чтобы сделать с ними то, что вы хотите.
Чтобы «удалить» их, вы можете позвонить:
tv[i].setVisibility(View.GONE);
Чтобы изменить текст и заново добавить его:
tv[i].setText("New Text");
tv[i].setVisibility(View.VISIBLE);