Я настоятельно рекомендую использовать RVM на * nix или pik на Windows.
На сегодняшний день это лучший (и безболезненный) способ управления средами Ruby.
Вы точно избежите проблем, с которыми вы сейчас сталкиваетесь.
Например, вы можете установить много разных версий Ruby, каждая со своими драгоценными камнями, и вы можете переключиться на X версию Ruby следующим образом:
rvm use 1.9.2 #begin using Ruby 1.9.2 and its gems