У меня была эта ошибка, когда я пытался настроить rails 5 на машине с Windows, оказалось, что мне пришлось обновить версию rubygem до 2.6.7, и тогда она заработала.
шаг 1 скачать рубингем снизу
https://rubygems.org/downloads/rubygems-update-2.6.7.gem
шаг 2 - установить, указав на загруженные рубины
gem install --local C:\rubygems-update-2.6.7.gem
шаг 3 - проверьте, установлена ли новая версия 2.6.7
gem --version
шаг 4 - теперь безопасно удалите гем rubygems-update
gem uninstall rubygems-update -x
шаг 5 попытался установить рельсы 5 снова
gem install rails --version 5.0.0
работал как шарм!
Я получил информацию от:
http://guides.rubygems.org/ssl-certificate-update/#installing-using-update-packages