Лично мне нравится идти по шагам, поэтому я бы начал с использования обоих, например:
jQuery.noConflict();
// Put all your code in your document ready area
jQuery(document).ready(function($){
// Do jQuery stuff using $
$("div").hide();
});
// Use Prototype with $(...), etc.
$('someid').hide();
Таким образом, вам не нужно конвертировать весь ваш старый код сразу, но вы можете начать использовать jquery для новых вещей и переносить старый код Prototype, когда это будет удобно. Я не знаю размер вашего проекта, поэтому я не могу сказать, относится ли это к вам или нет, но у Spolsky была отличная статья о «Большом переписывании» и почему это такая плохая идея в Things you никогда не должен делать, Часть 1 . Это стоит прочитать!
Подробнее об использовании jquery с Prototype см. Использование jQuery с другими библиотеками в документации jquery.