Это распространенное заблуждение. Хотя sytanx в MATLAB передается по значению, он фактически не передается по значению, как в C. Интерпретатор достаточно умен, чтобы делать копии только при необходимости. Так что вам нужно просто перейти к следующему значению и посмотреть, не возникнут ли у вас проблемы с памятью.
Как отмечали другие авторы, вам все равно следует избегать рекурсии в MATLAB.