Какой API для загрузки файлов вы используете?
1) Если API-интерфейс FileConnection позволяет загружать данные по блокам. В этом случае нет проблем.
2) Если вы используете Class.getResourceAsStream (String pathInsideJar), у вас будут проблемы. Большинство KVM полностью загружают ресурс перед возвратом контроля к вашему коду. Поэтому я вижу один способ - разбить большой файл на несколько маленьких файлов перед созданием jar.