Вам не нужно удалять весь раздел реестра. Достаточно удалить значение отладчика.
При возникновении исключения система сначала проверяет, зарегистрирован ли отладчик. Если это так, он просто запускает указанную командную строку. В противном случае он вызывает отчеты об ошибках Windows для сбора аварийного дампа. Все, что Windbg -I делает, это изменяет зарегистрированное значение отладчика в ключе AeDebug.