Вы на пути, но есть 3 проблемы:
Первое: вы используете переменную p внутри вашей функции, которая там не определена. Если он определен в вашем основном коде, вы должны вставить его в эту функцию, добавив вход в вашу функцию как p, и когда функция вызывается, вы должны поместить туда p. Другое ваше решение - установить p в качестве глобальной переменной, что не рекомендуется.
function F = fftfuntion(D, omega,p)
Второе: вы сказали, что вам нужен омега в качестве входа, и вы меняете его с помощью омега = 2 * пи, что неправильно.
Наконец, я не вижу никакого вывода, который, я думаю, объясняется тем, что вы еще не закончили с этой функцией.
Удачи