Вы должны иметь возможность использовать:
[\p{Punct}&&[^()]]
То, что это говорит:
Класс punct
символов, за исключением (
и )
.
Символ ^
указывает класс отрицательных символов.&&
- это пересечение класса punct
и пользовательского класса для круглых скобок.
Для получения дополнительной информации ознакомьтесь с Pattern
Javadocs.