В оболочке (пример ksh) перед выполнением вашей программы вы можете использовать ulimit -s <size in kbytes>
. Вам могут потребоваться повышенные привилегии для его изменения.
Вы также можете использовать setrlimit
программно, но со страницы руководства он не отрегулирует текущий запущенный процесс, поэтому, вероятно, он не поможет вашим потребностям.
Также учтите, что вашей программе нужен больший размер стека. Есть ли способ, которым вы можете изменить свой дизайн, чтобы сделать его более дружественным к стеку? По умолчанию Solaris выглядит как 10M, что является довольно большим стеком.