Вероятно, у вас возникли проблемы, потому что вы используете и Prototype, и jQuery на одной странице. Маловероятно, что это лучшее, что можно сделать. Я бы порекомендовал просто использовать jQuery и избавиться от Prototype и Scriptaculous ... Есть много способов получить то, что вам нужно, только в jQuery.