Это должно работать:
decimal SumOfPayments = db.tblSchoolAccounts.Sum(p => Math.Abs(p.Installment));
EDIT
Если вы ДЕЙСТВИТЕЛЬНО хотите получить выражение запроса, это должно сработать, но я думаю, что большинство разработчиков скажут, что вышеприведенное: намного , яснее:
decimal SumOfPayments = (from p in db.tblSchoolAccounts
select Math.Abs(p.Installment)).Sum();