RailsInstaller теперь поддерживает Rails 3.1, но ничего не обещает о предыдущих версиях RC. Как сказал @Fabio, попробуйте обновить до последней версии Rails (измените его в своем Gemfile). Кроме того, если у вас уже была установлена версия ruby, убедитесь, что вы используете RailsInstaller, проверив переменную пути вашей системной среды. Единственный путь к Ruby должен быть:
C:\RailsInstaller\Ruby1.9.2\bin;