Использование <!DOCTYPE html>
переведет веб-браузер в стандартный режим (в отличие от quirksmode), который почти наверняка вам нужен. Но переходный тип документа HTML 4.01 также активирует стандартный режим, поэтому здесь нет никакой разницы.
Я понятия не имею о последствиях использования того или другого с GWT - но я сомневаюсь, что, если честно, есть какие-то преимущества в использовании HTML5-типа документа, если только GWT не делает специальных вещей для поддержки HTML5.