Не обязательно. Ваше java-приложение должно будет установить цепочку доверия от сертификата сервера до собственных доверенных сертификатов CA JVM. Пока имеется сертификат CA, который запускает эту цепочку, у вас все будет в порядке. Если вы самостоятельно подписываете сертификаты, вам нужно будет добавить подписывающий CA в хранилище ключей Java. Вам не нужно импортировать каждый сертификат сервера. Просто сертификат доверенного ЦС, который подписал их все, если он еще не является доверенным.
Импорт корневого или промежуточного сертификата CA в существующее хранилище ключей Java:
keytool -import -trustcacerts -alias root -file Thawte.crt -keystore keystore.jks