Вам потребуется добавить следующий параметр в fancybox init:
'hideOnOverlayClick' ложь
Попробуйте изменить src вашего скрипта mousewheel на:
http://www.fancybox.net/js/fancybox-1.3.4/jquery.mousewheel-3.0.4.pack.js
Кажется, есть некоторые проблемы с разрешениями для некоторых ресурсов на их серверах.
Если это не исправит - какую проблему вы получаете в firebug? Разрешения - единственная проблема, которую я вижу ...