Попробуйте это регулярное выражение:
["'\\]
Чтобы использовать это в строковом литерале Java, необходимо экранировать двойную кавычку и обе обратные косые черты.
Строка замены должна быть такой:
\\$0
Здесь $0
- ссылка на матч. Обратная косая черта должна быть экранирована, иначе $ становится буквальным. Опять же, обратные слэши должны быть экранированы в строковом литерале Java. Полученный код выглядит так:
s = s.replaceAll("[\"'\\\\]", "\\\\$0");
Посмотреть онлайн: ideone