Я уже пробовал это, я открыл файл .out с помощью текстового редактора, но я получаю только набор символов с некоторыми инструкциями в нем, как:
üÙ
Попробуйте hexdump. Что-то вроде:
hexdump
$ hexdump -X a.out
Это даст вам только это: шестнадцатеричный дамп файла.
Сказав это, еще одна возможность может включать использование команды дизассемблирования GDB .
Поиск вашего местного дружественного Hex Editor .
Исполняемые файлы бывают нескольких форматов. Для Unix / Linux это ELF: http://en.wikipedia.org/wiki/Executable_and_Linkable_Format
Для Windows это PE: http://en.wikipedia.org/wiki/Portable_Executable
Используйте инструменты objdump, чтобы увидеть коды операций, как указали другие
Чтобы увидеть разборку (с байтами кода операции) только кода, не включая заголовки файлов:
objdump -d a.aot