Команда shutdown подключается к серверу и сообщает ему о завершении работы.Если нет запущенного сервера, вы не можете подключиться к нему, чтобы запустить его!
Чтобы запустить сервер из вашей программы на C #, вы можете просто запустить процесс mongod, используя класс System.Diagnostics.Process
например.