Я бы справился с этим, выбрав JSON с сервера и отправив JSON на сервер при отправке формы.Или в другом формате, например jQuery.serialize в формах.
Форма будет отображаться в лайтбоксе на основе JSON, полученного с сервера.Если пользователь нажимает кнопку "Отправить", вы отправляете данные формы в формате JSON на сервер, и сервер возвращает любые ошибки (или успех).
В качестве альтернативы вы можете отразить проверку на стороне JavaScript иотправлять только один раз на стороне проверки на стороне JavaScript, но это закроет всплывающее окно.
Я не думаю, что это будет исключительно запутанный подход, хотя это может быть, если вы собираетесь использовать плагины и другие фреймворки дляэто.