Сообщения об ошибках, которые у вас есть, не связаны с Excel или Excel SDK.Первые 2 ошибки связаны с использованием AfxMessageBox (MFC API), а третья - с несоответствием параметров API окна сообщений Win32.Эти ошибки вызваны тем, что ваш проект является приложением Unicode (в результате чего TCHAR оценивается в wchar_t, а макросы, такие как MessageBox, в MessageBoxW, а не в MessageBoxA).Простейшим решением будет изменить ваше приложение с Unicode на MBCS.
Однако - если я могу сделать предложение - рассмотрите возможность использования Add-in express или ExcelDNA для создания ваших UDF / RTD.Я предполагаю, что вам не очень комфортно в программировании на Win32 C ++.Если это так, вы столкнетесь с большими трудностями при создании UDF / RTD / Addins с простым C ++ и Excel SDK.
Если вместо этого вы воспользуетесь надстройкой Express или Excel днк - они позаботятся обо всехголовные боли от преобразования xlopers в интуитивно понятные типы .net и другие виды сантехники, позволяющие вам сосредоточиться на своей бизнес-логике.
Отказ от ответственности: я никоим образом не связан ни с надстройкой Express, ни с Excel DNAЯ только что использовал их время от времени.