Просто заключите в кавычки каждое поле (двойные кавычки по умолчанию) и запятые внутри них игнорируются:
CSV.generate(:col_sep=>',', :quote_char => '"') do |row|
row << ["Quid, quid", "latinum dictum"]
row << ["sit, altum", "viditur."]
end
=> "\"Quid, quid\",latinum dictum\n\"sit, altum\",viditur.\n"