Понимание пролога вызова функции C с помощью __cdecl в Windows - PullRequest
6 голосов
/ 16 января 2010

Компиляция этой простой функции с MSVC2008 в режиме отладки:

int __cdecl sum(int a, int b)
{
    return a + b;
}

Я получаю следующую распечатку:

int __cdecl sum(int a, int b)
{
004113B0  push        ebp  
004113B1  mov         ebp,esp 
004113B3  sub         esp,0C0h 
004113B9  push        ebx  
004113BA  push        esi  
004113BB  push        edi  
004113BC  lea         edi,[ebp-0C0h] 
004113C2  mov         ecx,30h 
004113C7  mov         eax,0CCCCCCCCh 
004113CC  rep stos    dword ptr es:[edi] 
    return a + b;
004113CE  mov         eax,dword ptr [a] 
004113D1  add         eax,dword ptr [b] 
}
004113D4  pop         edi  
004113D5  pop         esi  
004113D6  pop         ebx  
004113D7  mov         esp,ebp 
004113D9  pop         ebp  
004113DA  ret

Есть некоторые части пролога, которые я не понимаю:

004113BC  lea         edi,[ebp-0C0h] 
004113C2  mov         ecx,30h 
004113C7  mov         eax,0CCCCCCCCh 
004113CC  rep stos    dword ptr es:[edi] 

Почему это требуется?


EDIT:

После удаления опции компилятора /RTC, как было предложено, большая часть этого кода действительно исчезла. То, что осталось, это:

int __cdecl sum(int a, int b)
{
00411270  push        ebp  
00411271  mov         ebp,esp 
00411273  sub         esp,40h 
00411276  push        ebx  
00411277  push        esi  
00411278  push        edi  
    return a + b;
00411279  mov         eax,dword ptr [a] 
0041127C  add         eax,dword ptr [b] 
}

Теперь, зачем нужно: sub esp, 40h? Это как если бы место было выделено для локальных переменных, хотя их нет. Почему компилятор делает это? Есть ли еще один флаг?

Ответы [ 2 ]

11 голосов
/ 16 января 2010

Этот код генерируется из-за опции компиляции / RTC . Он инициализирует все локальные переменные в вашей функции с помощью битового шаблона, который с большой вероятностью может вызвать нарушение прав доступа или вызвать необычные выходные значения. Это поможет вам узнать, когда вы забыли инициализировать переменную.


Дополнительное пространство в кадре стека, которое вы видите, выделено для поддержки функции Edit + Continue. Это пространство будет использоваться при редактировании функции во время отладки и добавлении дополнительных локальных переменных. Измените параметр / ZI на / Zi, чтобы отключить его.

3 голосов
/ 16 января 2010

и в любом случае переполнения буфера (если вы перезаписываете локальные переменные) вы окажетесь в поле с кодами операций "int 3":

int 3 ; 0xCC
int 3 ; 0xCC
int 3 ; 0xCC
int 3 ; 0xCC
int 3 ; 0xCC
int 3 ; 0xCC
...

, которое может быть перехвачено отладчиком, поэтомуВы можете исправить свой код

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...