По умолчанию JVM устанавливает верхний предел для объема памяти, доступной текущему процессу, чтобы не допустить, чтобы побочные процессы сожрали системные ресурсы и заставили машину остановиться. При чтении или написании больших электронных таблиц JVM может потребоваться больше памяти, чем было выделено для JVM по умолчанию - это обычно проявляется как java.lang.OutOfMemoryError.
Для процессов командной строки вы можете выделить больше памяти для JVM, используя опции -Xms и -Xmx, например. чтобы выделить начальное выделение кучи в 10 МБ, с верхней границей 100 МБ, которую вы можете использовать:
java -Xms10m -Xmx100m -classpath jxl.jar spreadsheet.xls
Для более подробной информации см. http://www.andykhan.com/jexcelapi/tutorial.html#introduction