Вам нужно проверить высоту и ширину элемента, на котором вы центрируете, и соответственно установить верхнюю и левую сторону.
$('.labelEdit').click( function() {
var x = $("#editDialog").width() / 2 - $("#editItemDialog").outerWidth() / 2;
var y = $("#editDialog").height() / 2 - $("#editItemDialog").outerHeight() / 2;
$("#editItemDialog").css({"top": y, "left": x});
$('#editItemDialog').show('slow');
});
По сути, мы устанавливаем верхний угол в средней точкецелевой div минус половина высоты диалога, а левый в средней точке минус половина ширины диалога.