Вы говорите о реализации javax.sql.PooledConnection (которая не должна использоваться вами, а только пулом соединений) или о Соединении, полученном из пула соединений?
Если первое: закрытие PooledConnection должно закрыть физическое соединение, если второе: закрытие (логического) соединения, полученного из пула соединений, должно оставить физическое соединение открытым, поскольку это и есть вся точка пула соединений.
Все становится немного сложнее, когда вы злоупотребляете различными уровнями источника данных, каждый из которых создает свою собственную пул соединений.