Я на CentOS 5 использую Percona 5.5 и у меня возникли проблемы с установкой mysql gem. И, как уже упоминалось выше, вам просто нужны соответствующие библиотеки percona devel для вашей системы.
Получить их здесь: http://www.percona.com/downloads/Percona-Server-5.5/
Если у вас Ruby 1.8.5, установите гем с помощью:
gem install mysql --no-ri --no-rdoc -v 2.7 -- --build-flags --with-mysql-config
Если у вас 1.8.6 или выше, используйте:
gem install mysql --no-ri --no-rdoc -- --build-flags --with-mysql-config
Возможно, вы сможете опустить некоторые из этих параметров, но я нашел, что это хорошо работает, учитывая разные версии Ruby ..