Это математическая задача суммирования
В принципе, можно доказать, что:
for (i=a; i<b; i++)
count+=1
эквивалентно
count+=b-a
Аналогично,
for (i=a; i<b; i++)
count+=i
эквивалентно
count+= 0.5 * (b*(b+1) - a*(a+1))
Вы можете получить аналогичные формулы, используя, например, wolframalpha (Mathematica Wolfram's)
Эта система будет выполнять символические вычисления для вас, например,
for(int i=0;i<A;i++)
for(int j=i+1;j<B;j++)
for(int k=j+1;k<C;k++)
count++
является запросом Mathematica:
http://www.wolframalpha.com/input/?i=Sum[Sum[Sum[1,{k,j%2B1,C-1}],{j,i%2B1,B-1}],{i,0,A-1}]