Как уже упоминалось в комментариях, первая проблема связана с условием if
if (typeof (document.cookie == "undefined"))
, который должен быть записан как
if (typeof document.cookie != "undefined")
Следующая проблема связана со считыванием значения из файла cookie «Рекорд». Предполагая, что есть несколько других куки, способ прочитать его значение должно быть:
var highscore = ('; '+document.cookie).split('; highscore=').pop().split(";").shift();
Результат строки выше имеет тип string, поэтому вам нужно преобразовать его в int перед выполнением каких-либо сравнений.
highscore = parseInt(highscore)
Подводя итог:
if (typeof document.cookie != "undefined") {
document.cookie = "highscore=0; expires=Sun, 1 Dec 2030 12:00:00 UTC; path=/";
}
, а затем
let str = ('; '+document.cookie).split('; highscore=').pop().split(";").shift();
highscore = str ? parseInt(str) : 0;
if (score > highscore) {
highscore = score;
document.cookie = "highscore=" + highscore + "; expires=Sun, 1 Dec 2030 12:00:00 UTC; path=/";
}