Предложение Томсена было близко, вам нужно передать метод DirectoryEntry.Remove параметром DirectoryEntry, а не строкой, например:
DirectoryEntry localDirectory = new DirectoryEntry("WinNT://" + Environment.MachineName.ToString());
DirectoryEntries users = localDirectory.Children;
DirectoryEntry user = users.Find("userName");
users.Remove(user);