Я обнаружил, что ответ выше не работает для меня, но следующее работает:
li:before{
content: "\00BB";
}
Вместо этого используется шестнадцатеричный код для & raquo.
Хороший шестнадцатеричный преобразователь можно найти здесь .
Надеюсь, это кому-нибудь поможет:)