Проблема с собственными расширениями в Windows заключается в том, что существует две разные инфраструктуры компилятора: одна на основе MS VC и ее Visual Studio, а другая на MinGW (Minimalist GCC для Windows).
Существуют собственные расширения Ruby, которые можно скомпилировать с любым из них и с другими, поддерживающими только одно. И поскольку большинство из них происходит из какой-то разновидности Unix, есть вероятность, что mingw работает лучше, чем MSVC.
Таким образом, вы можете попробовать установить mingw и использовать его для компиляции mysql gem - есть специальный пакет под названием devkit , который содержит минимально необходимую установку mingw, которую вы только что поместили в вашу установку ruby.
Мне удалось скомпилировать несколько собственных расширений, используя devkit: eventmachine, linecache, bson-ext и многие другие. И в devkit вы будете чувствовать себя гораздо больше дома :-) (из OSX)