Если вам нужно удалить все символы, отличные от US-ASCII (то есть за пределами 0x0-0x7F), вы можете сделать что-то вроде этого:
s = s.replaceAll("[^\\x00-\\x7f]", "");
Если вам нужно отфильтровать много строк, это будетлучше использовать предварительно скомпилированный шаблон:
private static final Pattern nonASCII = Pattern.compile("[^\\x00-\\x7f]");
...
s = nonASCII.matcher(s).replaceAll();
И если он действительно критичен к производительности, возможно, предложение Алексея Николаенкова будет лучше.