попробуйте
Sum[a[i]*b[j-i],{j,0,n},{i,0,j}]
Для получения дополнительной информации о сумме и продуктах в Mathematica, посмотрите документацию:
Сумма и продукты
надеюсь, что это поможет
для вашего второго вопроса напишите:
(Sum[(-1)^(k-1)/k^t,{k,1,n}])^2
Не уверен, что ваше обновление, но если речь идет о бесконечности, просто введите:
(Sum[(-1)^(k-1)/k^t,{k,1,Infinity}])^2
и если вам нужен тип числового значения:
N[%]
, он выведет числовое значение вашей суммы
Если вы хотите определить функцию:
f[n_]:= (Sum[(-1)^(k-1)/k^t,{k,1,n}])^2
квадрат с двойной суммой равен:
Sum[(-1)^(i-1)/i^t*(-1)^(j-1)/j^t,{i,1,n},{i,1,n}]
и должен быть равен любому n квадрату (Sum[(-1)^(k-1)/k^t,{k,1,n}])^2