Может быть, вы можете подписаться на RadioGroup.OnCheckedChangeListener, так что это вернет идентификатор radioButton, на который нажали. Вы можете иметь коллекцию, может быть список или набор. В этой коллекции вы сохраняете выбор, а перед его сохранением вы проверяете, есть ли более 2 или 3 выбранных. Таким образом, в этом случае вы показываете диалог, тост, снэк-бар ...