Prototype и Scriptaculous являются частью инфраструктуры Rails. ИМХО, вы можете удалить эти библиотеки и вставить другие, но тогда это будет не фреймворк Rails, а проект Rails.
Другой вариант - добавить jQuery в стандартную конфигурацию Rails. После этого вам нужно исправить несколько проблем совместимости между этими библиотеками. JQuery опубликовал небольшой скрипт, который делает это.