Чтобы это было возможно, записывающий поток должен открыть файл в неисключительном режиме, который позволил бы доступ к файлу другим.
Если вы не имеете никакого контроля над потоком записи, вы не сможете это сделать.
Потенциальная альтернатива - попытаться получить тот же самый дескриптор, который используется для записи. В конце концов, если это поток в вашем приложении, тогда этот дескриптор находится где-то в вашей памяти.
Помните, что если вам удастся удалить файл, другой поток может не ожидать его, и если он не обработает исключение, которое он получит при повторной записи, весь ваш процесс может быть остановлен.
Серьезно, звучит так, как будто вы должны пересмотреть свой дизайн.