Боюсь, что эта функциональность недоступна из коробки. Компонент rowEditor имеет встроенную интеграцию с таблицей данных и собственными событиями и прослушивателями для редактирования одной существующей строки. Кнопка отмены компонента rowEditor обладает единственной функцией переключения выходных и входных фасетов компонентов столбца Primefaces.
Если вы хорошо разбираетесь в jQuery, вы можете взломать эту функциональность, найдя элемент DOM с помощью класса кнопки отмены jQuery('.ui-icon-close')
и назначив пользовательский прослушиватель событий javascript, но это может быть проблематично в dataTable, где есть несколько строк и звучит так, как будто вы хотите удалить пустую строку, если выбрано Отмена.
Лучше всего создать кнопку «Добавить новый», которая отображает диалоговое окно с формой. Отправка через форму в диалоговом окне может добавить необходимую строку в таблицу данных.