Я знаю, что это не очень хорошая история, но лучшая документация, которую мы имеем (кроме jsopcode.tbl, как упоминает Алекс К.), это реализация интерпретатора (jsinterp.cpp). Мы несколько раз отмечали, что для новичков было бы полезно иметь более формализованный документ, отмечая переходы состояния стека и описание побочных эффектов. Я начал один здесь:
https://developer.mozilla.org/en/SpiderMonkey/Bytecodes
Не стесняйтесь заходить на #jsapi на irc.mozilla.org, чтобы спросить о том, что вы хотели бы, чтобы документально было задано!