Попробуйте преобразовать число в целое число:
<script type="text/javascript">
function checksession(sess){
var i = parseInt(sess);
if(isNaN(c) || c < 1 || c > 12){
alert("Invalid session id!");
}
}
</script>
Для современных браузеров, я бы рекомендовал использовать тип ввода HTML5 number
:
<input type="number" name="sessionid" min="0" max="12" >