Если приведенный выше ответ Райана Бартона не сработал, попробуйте это.Он также был извлечен из RubyInstaller Wiki
Используя командную строку, выполните следующую команду:
SET COMSPEC
Вывод по умолчанию, который должен выглядеть следующим образом:
ComSpec=C:\Windows\system32\cmd.exe
Если в выводе есть что-то отличное от cmd.exe в качестве исполняемого файла, пожалуйста, настройте его на использование cmd.exe.Обратите внимание, что переменная должна содержать полный путь к исполняемому файлу cmd.exe и относительные пути не будут выполнены.
Некоторые инструменты могут изменить команду вашего командного процессора, что мешает Ruby вызывать дочерние процессы.
Необработанная переменная (которую вы найдете в Свойствах системы - Переменные среды): %SystemRoot%\system32\cmd.exe
Измените ее и попробуйте снова установить гем.