Вам не повезло. Узким местом здесь является файловая система, , и вы вряд ли найдете файловую систему, которая выполняет атомарные операции (например, удаление каталога) в параллельно . Никакие хлопоты с шелл-кодом не заставят ОС или файловую систему работать быстрее. Существует только один диск, и если для каждого удаления требуется запись на диск, он будет медленным.
Лучше всего перейти на файловую систему журналирования, которая быстро удаляет файлы. Мне повезло с удалением XFS больших файлов (10-40 ГБ) быстро, но я не пробовал удалять каталоги. В любом случае, ваш путь к повышению производительности заключается в поиске правильной файловой системы, а не подходящего сценария оболочки.