Проблема в том, что клиент (ваша программа) использует соглашение о вызовах, отличное от того, что ожидает сервер (COM-объект). Необходимо проверить объявление методов интерфейса COM и настроить их соответствующим образом.
См. этот вопрос для решения по сути той же проблемы.