Из вашего описания я предполагаю, что вы запускаете Graal JS из некоторого кода Java, используя API Polyglot.
Graal JS работает в тех же потоках, что и остальная часть JVM. Вы можете увеличить размер стека JVM, используя аргумент -Xss
. Например,
$ <graalvm>/bin/java -Xss2m …
2m
означает 2 МБ (я думаю, что по умолчанию x86_64 составляет 1 МБ). Вы можете экспериментировать с различными размерами, но помните, что чем выше вы устанавливаете его, тем меньше потоков вы можете поместить в фиксированный объем памяти.