Если вы используете IntelliJ Idea, вы можете передать аргументы для тестирования из конфигурации Run / Debug -> Опции VM. Если вы используете Maven, вы можете передавать аргументы в конфигурации surefire-plugin:
<plugin>
<groupId>org.apache.maven.plugins</groupId>
<artifactId>maven-surefire-plugin</artifactId>
<configuration>
<argLine>-Xmx1G</argLine>
</configuration>
</plugin>
И помните, что параметры Maven переопределяют значения по умолчанию Idea (если установлены).