У вас всегда должны быть строки по умолчанию в res/values/strings.xml, потому что Android пытается использовать самый определенный доступный ресурс. Если у вас есть, например, res/values-fr/strings.xml и res/values-de/strings.xml, а телефон пользователя настроен на английский, ваше приложение будет аварийно завершать работу, поскольку ни de, ни fr не применимы к английскому языку, но резервные ресурсы отсутствуют.
После того, как вы указали строки по умолчанию и любые переводы в соответствующих подпапках, вы можете использовать строки по их квалификаторам. Например R.string.some_string. Android будет использовать наиболее подходящий перевод, доступный для текущего языка устройства пользователей.
Все это и многое другое объясняется здесь: Локализация с ресурсами