Проблема заключается в том, что версия гема bson_ext и версия драгоценного камня mongo должны совпадать, кроме того, mongo_mapper еще не готов для mongo-1.0.1, поэтому необходимо использовать версии драгоценных камней mongo и bson_ext, равные 1.0 для каждого соответственно.
Итак, сделайте следующее:
gem install mongo -v=1.0 --no-ri --no-rdoc && \
gem install bson_ext -v=1.0 --no-ri --no-rdoc
тогда для Rails 2.x в вашем config / environment.rb сделайте:
config.gem 'mongo', :version => '1.0'
config.gem 'bson_ext', :version => '1.0'
или для Rails 3, в вашем Gemfile:
gem 'mongo', '1.0'
gem 'bson_ext', '1.0'