Я бы порекомендовал переписать подпрограмму в итерационный алгоритм. Хотя это нетривиально, преобразование алгоритма должно быть простым и избавит вас от необходимости иметь дело с такими ограничениями ресурсов (которые, я бы предположил, сильно различаются в зависимости от архитектуры, платформы, деталей компьютера и т. Д.)
Также обратите внимание: все рекурсивные алгоритмы могут быть написаны итеративно.