Первое, что вам нужно сделать, это запустить: gem env
Это выдаст, среди прочего, RUBYGEMS_VERSION и вашу GEM_PATHS. Убедитесь, что все, что вы считаете правдой, действительно верно.
В GEM_PATHS вы, вероятно, увидите несколько путей, самый верхний из которых является основным путем.
Вы можете установить GEM_HOME в основной каталог gem в вашем файле .bash_login / etc. Откройте новый терминал и снова запустите gem env, чтобы убедиться, что он поднят.
Как указал Гордон, убедитесь, что эти пути GEM находятся в вашем PATH.
Некоторые другие вещи, чтобы думать о собственности / разрешениях. Если вы используете sudo при работе с гемами в вашей системе, они устанавливаются в другой каталог, чем при обычной установке / обновлении.
Возможно, вы установили rubygems с помощью sudo, но rails не работает от имени root.
Прочтите примечания по установке, если вы все еще не можете понять: установка ruby gems