Я смотрел на DynObj и решил провести свои собственные эксперименты с vftables. Я работаю с Visual Studio 2010 и создал консоль main, которая создает экземпляр объекта с помощью виртуальной функции, которая возвращает std :: string.
Тестовый код в main пытается вызвать открытую виртуальную функцию объекта, используя указатель, полученный из vftable объекта. Я обнаружил, что для функции, которая возвращает примитивный тип, проблем нет. Но когда функция возвращает std :: string, компилятор вставляет эффективный стек pop (add esp, 4). Это приводит к тому, что следующий код проверки стека вызывает исключение.
Я заметил, что это норма для функций, объявленных в глобальном пространстве. Но функция внутри класса не генерирует модификатор ESP после вызова.
Вот суть кода вместе со сборкой ...
class VClass
{
public:
VClass() {}
~VClass() {}
virtual std::string GetString() {return "vstring";}
};
std::string StrFunc()
{
return "string";
}
void main(int argc, char* argv[])
{
VClass vClass;
__int32 ** vftabletable;
// 00BE1730 lea ecx,[ebp-18h]
// 00BE1733 call VClass::VClass (0BE1181h)
// 00BE1738 mov dword ptr [ebp-4],0
vftabletable = (__int32**)&vClass;
// 00BE173F lea eax,[ebp-18h]
// 00BE1742 mov dword ptr [ebp-24h],eax
StrFunc();
// 00BE1745 lea eax,[ebp-15Ch]
// 00BE174B push eax
// 00BE174C call StrFunc (0BE11EFh)
// 00BE1751 add esp,4
// 00BE1754 lea ecx,[ebp-15Ch]
// 00BE175A call std::basic_string<char,std::char_traits<char>,std::allocator<char> >::~basic_string<char,std::char_traits<char>,std::allocator<char> > (0BE1221h)
vClass.GetString();
// 00BE175F lea eax,[ebp-134h]
// 00BE1765 push eax
// 00BE1766 lea ecx,[ebp-18h]
// 00BE1769 call VClass::GetString (0BE1195h)
// 00BE176E lea ecx,[ebp-134h]
// 00BE1774 call std::basic_string<char,std::char_traits<char>,std::allocator<char> >::~basic_string<char,std::char_traits<char>,std::allocator<char> > (0BE1221h)
((std::string (*)())vftabletable[0][0])();
// 00BE1779 mov esi,esp
// 00BE177B lea eax,[ebp-10Ch]
// 00BE1781 push eax
// 00BE1782 mov ecx,dword ptr [ebp-24h]
// 00BE1785 mov edx,dword ptr [ecx]
// 00BE1787 mov eax,dword ptr [edx]
// 00BE1789 call eax
// 00BE178B add esp,4
// 00BE178E cmp esi,esp
// 00BE1790 call @ILT+570(__RTC_CheckEsp) (0BE123Fh)
// 00BE1795 lea ecx,[ebp-10Ch]
// 00BE179B call std::basic_string<char,std::char_traits<char>,std::allocator<char> >::~basic_string<char,std::char_traits<char>,std::allocator<char> > (0BE1221h)
}
Последний вызов виртуальной функции через приведенный указатель приводит к:
Ошибка проверки времени выполнения # 0 - значение ESP не было должным образом сохранено в
вызов функции. Обычно это результат вызова функции, объявленной с
одно соглашение о вызовах с указателем на функцию, объявленное с другим вызовом
условность.
Итак, мой вопрос: как вызвать правильное соглашение о вызовах для виртуальной функции, которая возвращает не примитивный тип?
Кстати, когда я ломаюсь в 00BE178B и устанавливаю следующий оператор в 00BE178E, выполнение завершается без проблем.