Должна работать пустая строка.
Вы всегда можете использовать фильтр, который, как вы уверены, будет включать все ваши записи.
Быстрый тест на десятичном столбце:
var dt = new DataTable();
dt.Columns.Add("DecCol1", typeof(decimal));
dt.Columns.Add("StrCol1");
dt.Rows.Add(new object[] { 1.1, "r1"});
dt.Rows.Add(new object[] { 2.2, "r2" });
dt.Rows.Add(new object[] { 3.3, "r3" });
object sum = dt.Compute("SUM(DecCol1)", "");
Console.WriteLine(sum);
Я получаю правильный ответ: 6,6