Следует знать, что в javascript каждое выражение имеет возвращаемое значение, независимо от того, имеет ли оно какие-либо побочные эффекты (присваивания)
Справа налево, у вас есть следующие утверждения:
(jQuery.fn = (jQuery.prototype = ({})))
Оценка первой части дает пустой объект: {}:
(jQuery.fn = (jQuery.prototype = {}))
Второй оператор выполняется и устанавливает для jQuery.prototype значение {}, а также для jQuery.prototype, давая вторую часть:
(jQuery.fn = jQuery.prototype)
, который устанавливает jQuery.fn в jQuery.prototype, который затем оценивается в:
jQuery.fn
который ничего не делает.