Не уверен насчет значений по умолчанию, я бы изменил пару вещей:
, если вам нужен RMagick, нет необходимости включать Magick впоследствии, я думаю, вы можете удалить эту строку.* Константы должны начинаться с префикса Magick ::, поэтому, вероятно, оно должно быть Magick::PaletteMatteType
прозрачный метод принимает 2 аргумента, первый - цвет, который вы хотите сделать прозрачным, а второй -прозрачности.Я думаю, что Gif знает только один вид, но в любом случае, попробуйте
img.transparent("#00FF00", Magick::TransparentOpacity)