Ввод десятичной точки .
запрещен вашим onkeypress
, потому что код клавиши события равен 46, что не в допустимом диапазоне 48 <= code <= 57
.Вы должны разрешить код 46 дополнительно:
<h:inputText value="#{dimStackLine.max}"
onkeypress="if( (event.which < 48 || event.which > 57) && event.which != 46 ) return false;">
<p:ajax event="change" process="@this"></p:ajax>
<f:convertNumber pattern="####0.00000" />
</h:inputText>