Если вы можете создать рабочее пространство программно, вы сможете удалить его (при условии наличия надлежащих учетных данных).
Посмотрите документы для REST API . Прокрутите немного вниз до раздела «Рабочие пространства», и вы заметите, что вам нужно отправить метод DELETE на сервер для рабочей области, которую вы хотите удалить.
Поскольку ваш create работает, у вас должен быть весь код, необходимый для работы DELETE.
EDIT
После просмотра кода я изменил бы запрос на использование URL
http://xxxxxxxxxxx:8080/geoserver/rest/workspaces/testWorkspace
и посмотрите, получите ли вы еще 405 при выполнении удаления.