Думая, какое-то время получило свое решение. Помимо использования noconflict из jquery мне также потребовалось загружать файлы в определенном порядке, чтобы они не конфликтовали.
Для этого я перезаписываю файл application.js и перечисляю все необходимые js-файлы в требуемом порядке, а у одного из js была строка jquery.noconflict, чтобы сделать jquery и protype совместимыми.
как
// This is a manifest file that'll be compiled into including all the files listed below.
// Add new JavaScript/Coffee code in separate files in this directory and they'll automatically
// be included in the compiled file accessible from http://example.com/assets/application.js
// It's not advisable to add code directly here, but if you do, it'll appear at the bottom of the
// the compiled file.
//
//= require jquery
//= require jquery_ujs
//= require noconflict
//= require prototype
//= require compose
//= require s3_upload
и удалите последнюю строку require_tree, чтобы компилятор ресурсов не добавлял файлы самостоятельно.
Спасибо всем, кто заглянет в этот вопрос.