Команда
em.remove( yourEntity )
зарезервирует вашу сущность для удаления из Постоянного контекста, а затем из базы данных, но она не вступит в силу немедленно. Я могу себе представить, что удаление из контекста постоянства и базы данных еще не произошло, когда вы сохранили новый объект.
Вы можете попытаться удалить эту сущность с помощью пользовательского запроса JPQL, например "DELETE FROM YourEntity ye WHERE ye.primary1 = :primary1 AND ye.primary2 = :primary2... whatever;"
, после команды remove (). Я предполагаю, что это немедленно удаляет вашу сущность из контекста постоянства, но я не уверен. Попробуйте и дайте нам знать:)