Влад,
Установка типа содержимого для xls или xlsx имеет тот же эффект: он сообщает браузеру о передаче в Excel. Он по-прежнему будет отправлять HTML с превосходным рендерингом.
Это зависит от пользователя, чтобы сохранить как xlsx.
Если вам действительно нужен готовый xlsx, вам нужно создать XAgent , который отображает двоичный формат xlsx. Самый простой способ - это библиотека Apache POI, которая доступна для XPages через OpenNTF .
Проверьте образцы там. Они должны делать то, что вам нужно.