Похоже, изотоп имеет по умолчанию «animationEngine» как «css».
Кратчайшим способом было бы установить animationEngine как jquery (при условии, что вы используете jQuery).
jQuery('#filters a').click(function(){
var selector = jQuery(this).attr('data-filter');
jQuery('#container').isotope({
filter: selector,
animationEngine : "jquery"
});
return false;
});