Я знаю, что должен использовать вложенные циклы. Скажем, два полинома x и y. (оба вектора) Но в итоге я получаю только коэффициенты каждого слагаемого после умножения - x(i)*y(j)
x(i)*y(j)
Если вы хотите умножить многочлены без выполнения свертки, это то, что делает быстрое преобразование Фурье . Matlab имеет функцию fft.
fft
Если вы хотите умножить многочлены без использования встроенной функции свертки, используйте циклы for для реализации алгоритма, который вы изучили в средней школе.
for