Вы должны сделать это в двух отдельных файлах. Если у вас есть style.xml в значениях и values-large-mdpi, система автоматически использует один из них в largi-mdpi, если это применимо, и отклоняет другой.
Если у вас есть другой файл, например /res/values/styles-common.xml без аналога в values-large-mdpi, система будет использовать его.
Итак, определите все ваши общие стили в общем файле и ссылайтесь на них из ваших специализированных стилей.