Объекты обрабатываются в синтаксическом анализаторе XML. Это означает, что вы можете ссылаться только на объекты в файлах XML. Поэтому я предполагаю, что переписать ваш пример на что-то вроде следующего будет работать.
В вашем файле xul:
<script>
var myentity = "&myentity;";
</script>
<script src='myscript.js'>
В вашем myscript.js:
alert(myentity);
Но ... для удобства написания сценариев XUL может трактовать <script>
по-другому, что нарушит разрешение сущности.