Проблема в том, что вы не экранируете все символы \
в строке RegExp;вы пропустили последние два:
var regex = new RegExp("(^|\\s)score(\\s|<\\/span>|$|,|\\.)", "ig");
Также обратите внимание, что вы можете избежать необходимости вообще избегать их, используя вместо этого литерал Regex:
var regex = /(^|\s)score(\s|<\/span>|$|,|\.)/ig;
var res = $("#div").text();
var regex = /(^|\s)score(\s|<\/span>|$|,|\.)/ig;
res = res.replace(regex, function(match) {
match = match.replace(/^\s/g, "");
match = match.replace(/\s$/g, "");
return ' <span style="background-color:#bebef8;color:#000;">' + match + '</span> ';
});
$("#div").html(res);
<script src="https://cdnjs.cloudflare.com/ajax/libs/jquery/1.9.1/jquery.min.js"></script>
<div id="div" style="border:1px solid #000" contenteditable="true">
The total score on the scoreboard is +3 points.
</div>