Вы хотите понять физическое отображение мнемоники в машинный код? В этом случае тома 2A и 2B справочного руководства Intel IA32 / IA64 описывают двоичный формат машинного кода x86.
На странице набора команд x86 в Википедии есть компактный список всех инструкций, классифицированных по тому, когда они были введены, что может помочь вам расставить приоритеты в первую очередь для реализации.
Однако, если вы спрашиваете о том, как выполнить синтаксический анализ текстового файла с кодом сборки, чтобы достичь точки, в которой ваша программа может начать писать машинный код, тогда вам, по сути, нужно понять, как написать компилятор. Инструменты lex и yacc - хорошие места для начала, но если вы не знаете, как создать компилятор, вам также понадобится книга. Я думаю, что Книга Дракона является лучшей, но есть множество других книг, которые вы могли бы использовать, поэтому у SO есть множество рекомендаций.