Существует также возможность использовать регулярные выражения, если вы так склонны.
Regex regex = new Regex("_[^_]*$");
string[] strings = new string[] {"A_1", "A_2", "A_B_1", "X_a_Z_14"};
foreach (string s in strings)
{
Console.WriteLine(regex.Replace(s, ""));
}