Вы можете писать приложения вокруг dbgeng.dll, но это не тривиальная задача.Документация недостаточна, и вы должны написать много сантехнического кода.Однако, если вы хотите построить отладчик в управляемом коде, я рекомендую вам проверить mdbg , который представляет собой сборку отладчика ICorDebug
Полный исходный код доступен, так что это хороший источник, чтобы узнать о том, как реализовать отладчик.