Как описано в этом ответе здесь , одна радиокнопка не может быть сброшена. Вместо этого вам нужно очистить всю радиогруппу.
Так что вместо
radioButton.setChecked(false);
вам нужно использовать
((RadioGroup) findViewById(R.id.ID_OF_RADIO_GROUP)).clearCheck();
Кроме того, вы не указали в своем вопросе, что именно не работает, как ожидалось.
Если это не решит вашу проблему, прокомментируйте, что именно вы получаете, когда пытаетесь активировать переключатель или переключатель.
РЕДАКТИРОВАТЬ: Кроме того, вы должны использовать setOnCheckedChangeListener()
вместо setOnClickListener()