Отмена события, вероятно, не лучшая идея; если пользователь пытается выбрать что-то в другой группе, отличной от текущей, вы действительно хотите, чтобы новый элемент был выбран, а выбранные элементы в другой группе были отменены.
Я бы предложил ответить на событие ItemSelectionChanged, и если свойство .IsSelected аргументов события имеет значение true, выполнить итерацию по списку элементов и отменить выбор любых элементов, которые не разделяют группу с вновь выбранным элементом.