Элемент 'x'-Button - это элемент, который вы получаете, используя $(".mceClose")
.Таким образом, вы можете назначить обработчик событий там (вам нужно назначить обработчик, когда диалоговое окно открыто / видно), иначе вы не найдете такой элемент, и назначение завершится неудачно.Вот оно:
$(".mceClose").click(function() {
alert('Handler for .click() called.');
});