Вы можете использовать JSoup для очистки HTML.
String cleaned = Jsoup.clean(html, Whitelist.relaxed());
Вы можете использовать один из определенных белых списков или создать свой собственный, в котором вы указываете, какие HTML-элементы вы хотите пропустить через очиститель. Все остальное удалено.
Ваш конкретный пример будет:
String html = "one two three <blabla> four <text> five <div class=\"bold\">six</div>";
String cleaned = Jsoup.clean(html, Whitelist.relaxed().addAttributes("div", "class"));
System.out.println(cleaned);
Выход:
one two three four five
<div class="bold">
six
</div>