Драгоценные камни (mysql или mysql2) предоставляют независимый от версии слой для версии MySQL, которую вы используете.
Однако, если вы используете предварительно скомпилированный гем, для этого потребуется, чтобы в вашей системе была установлена библиотека MySQL для конкретной версии.
Чтобы избежать этого, вы можете использовать MySQL Connector / C, который обеспечивает независимый от версии способ подключения к MySQL.
В этом посте блога я описал, как скомпилировать gem mysql для MySQL Connector / C:
http://blog.mmediasys.com/2011/07/07/installing-mysql-on-windows-7-x64-and-using-ruby-with-it/
В mysql2 gem есть некоторые проблемы с Windows, поэтому я бы порекомендовал вам использовать mysql gem на данный момент.
Надеюсь, это поможет.