Вы, вероятно, в 64-битной системе пытаетесь скомпилировать 32-битную сборку.Заставить gcc скомпилировать 32 бита с -m32 :
gcc -m32 -c test.S
Редактировать:
64-битная версия:
.text
call start
str:
.string "test\n"
start:
movl $1, %eax
movl $1, %edi
popq %rsi
movl $5, %edx
syscall
movl $60,%eax
movl $0, %edi
syscall