Я думаю, что это может быть поврежденная загрузка - Gems загрузил в кэш неверную копию пакета rubygems-update, и каждый раз, когда вы запускаете функцию обновления, она пытается использовать эту кэшированную копию.
Попробуйте удалить C: /Ruby/lib/ruby/gems/1.8/cache/rubygems-update-1.3.5.gem и повторите попытку.
Если это не сработает, удалите версию Ruby, которую вы сейчас используете, и используйте Release Candidate RubyInstaller . RubyInstaller заменяет установщик One-Click и имеет более новую версию RubyGems.