Нет автоматического отката, NSIS не может определить, какие операции нужно откатить и как.
Вы должны решить эту проблему самостоятельно, откатив каждую операцию или запустив программу удаления в тихом режиме (ExecWait'"$instdir\youruninstaller.exe" /S _?=$instdir'
(после этого необходимо удалить программу удаления и $ instdir))