Чтобы удалить развертывание, используйте
$ kubectl delete deploy/old_deployment_name
Это удалит развертывание, включая pods и rs, если они у вас были.
И не делайте эту ошибку во второй раз :) @Kamol is правильно - лучший способ управления ресурсами - это изменение файла конфигурации (например, вашего развертывания) и повторное применение с
kubectl apply -f deployment.yaml