Вы должны использовать bundler для управления вашими зависимостями, а не напрямую использовать rubygems.
Если вы используете bundler, тогда выполняйте свои скрипты с bundle exec <usual command here>, например, bundle exec rspec spec/.
Bundler решает все эти проблемы для вас.Однако, чтобы устранить эту ошибку, возможно, придется удалить установленные вами драгоценные камни вручную.