Это правильное поведение. Вы не можете изменить порт с 5887 на 80 через AAM. Он просто изменяет URL-адрес, а не порт сервера, который прослушивает IIS.
Если вы хотите перевести порт с 5887 на 80, вам необходимо установить прокси-сервер, например ISA-сервер.