Это зависит от конкретного протокола, указанного в протоколе. Некоторые поддерживают постоянные соединения, другие закрывают свои соединения, когда ваш вызов закрывается во входном или выходном потоке, заданном соединением. Но кроме напоминания о закрытии потоков, которые вы открыли из URLConnection, вы ничего не можете сделать.
Из javadoc для java.net.URLConnection
Вызов методов close () для
InputStream или OutputStream объекта
URLConnection после запроса может освободиться
сетевые ресурсы, связанные с этим
экземпляр, если не конкретный протокол
спецификации указывают разные
поведения для него.