попробовал. Ответ - нет, данные тома не будут удалены.
> docker service create --name test_container --replicas 1 --mount type=volume,source=test_vol,destination=/mnt busybox top
...
verify: Service converged
> docker service rm test_container
test_container
> docker volume ls
DRIVER VOLUME NAME
local test_vol