Вам просто нужно добавить уникальные идентификаторы для каждого из элементов группы в XML-файле.
<group
android:id="@+id/menuGroup_1"
android:checkableBehavior="single">
<item android:id="@+id/group_1_item_1"/>
<item android:id="@+id/group_1_item_2"/>
</group>
<group
android:id="@+id/menuGroup_2"
android:checkableBehavior="single">
<item android:id="@+id/group_2_item_1"/>
<item android:id="@+id/group_2_item_2"/>
</group>
Тогда реализуйте свою логику здесь:
public boolean onOptionsItemSelected(MenuItem item) {
switch (item.getItemId()) {
case R.id.group_1_item_1:
item.setChecked(true);
return true;
case R.id.group_1_item_2:
item.setChecked(true);
return true;
case R.id.group_2_item_1:
item.setChecked(true);
return true;
case R.id.group_2_item_2:
item.setChecked(true);
return true;
default:
return super.onOptionsItemSelected(item);
}