Вы должны указать своей оболочке использовать RVM и версию Ruby. Вы можете сделать это, введя следующую команду:
rvm use *ruby version (example: 1.8.7)*
Или, если вы создали gemset для конкретного проекта:
rvm use *ruby version (example: 1.8.7)*@*my_gem_set*