Это не то, как вы читаете значения формы в современных браузерах; он работал только в Inte rnet Explorer, если я правильно помню. Вам необходимо использовать методы DOM, например:
function randomGen() {
var amtNum = parseInt(document.getElementById("amtNum").value, 10);
if (!isNaN(amtNum)) {
document.getElementById("numberText").innerHTML = Math.round(Math.random()*amtNum);
}
}
<form>
<label for="amtNum">1 To What?</label>
<input type="number" id="amtNum" name="amtNum" step="1">
</form>
<p id="numberText"></p>
<button id="RandomButton" onclick="randomGen()">Click for your random number</button>