Используйте лучшие практики разработки J2EE:
1. Отдельные уровни в бэкэнде: DAO для доступа к данным, Сервис для бизнес логики. О модели данных - в любом случае вам придется изменить ее при переходе с AppEngine на Tomcat. Возможно, аннотации JPA помогут вам. Вы можете использовать его с другими БД. Но если вам нужна масштабируемость - вы должны использовать NoSQL.
2. Используйте MVC для внешнего интерфейса с Spring, например
Я думаю, вам придется переписать свой слой DAO и модель данных. Так что это займет некоторое время.