Я не проверял фактический размер окна математики; не уверен, что это правильно. Но первая, очевидная проблема, с которой вы столкнулись - это встраивание переменных в вызов window.open. Попробуйте изменить
window.open("something.htm", "mywindow",
"width=300, height=viewportheight, left=(viewportwidth - 300), top=0, screenX=0, screenY=0");
до
window.open("something.htm", "mywindow",
"width=300, height=" + viewportheight + ", left=" + (viewportwidth - 300) + ", top=0, screenX=0, screenY=0");
По сути, если вы хотите, чтобы переменные или математические выражения были разрешены, они должны быть вне строки.