Вы можете попробовать использовать Prototype и Mootools бок о бок, потому что последняя версия MooTools включает механизм , который обнаруживает существование $ function.
Однако использование обоих фреймворков в одном проекте не имеет большого смысла - оба имеют схожие возможности (обширные манипуляции с DOM и некоторые полезности, расширяющие ядро JS, например ООП).
Мне показалось, что оба фреймворка совершенно одинаковы, и, если честно, если один из них может что-то сделать, другой, безусловно, может это сделать.