Я предполагаю, что сумма должна быть вычтена, когда type = 'C'.
select account_id, sum((case when transaction_type = 'C' then -1 else 1 end) * transaction_amount)
from trans
group by account_id
На основании типа транзакции сумма умножается на 1 или -1.