Я не проверял, как ASPxDateEdit работает в сочетании с модальным диалогом jquery.Вместо этого я предлагаю вам использовать ASPxDateEdit для ASPxPopupControl , который также может отображаться в виде модального диалога.
В этом случае все будет работать правильно.