Я использовал параметр before show, чтобы изменить его размер:
beforeShow: function(){
this.width = $('.fancybox-iframe').contents().find('html').width();
this.height = $('.fancybox-iframe').contents().find('html').height();
}
Чтобы запустить его изнутри фрейма, вам нужно запустить родительский объект. $. Fancybox.update () с дочерней страницы,который должен изменить его размер.