Вам не нужен kl oop, и ваши индексы отключены на единицу.
N=41;
a=0.9;
u=1;
for m=1:N
for n=1:N
x(n,m)=a^(n-1+m-1)*u;
end
end
Если вы действительно хотите объявить его как функцию, вы можете удалить первые три строки в приведенный выше код, а затем оберните его, как показано ниже. Обязательно сохраните функцию в отдельный файл в вашем рабочем каталоге, где имя файла совпадает с именем функции.
function x=filename(a,N,u)
%Above code here.
end