Возврат из нативного кода в управляемый портит возвращаемый объект - PullRequest
Новая
       106

Возврат из нативного кода в управляемый портит возвращаемый объект

0 голосов
/ 20 сентября 2019

Я пытаюсь создать реализацию для аутентификации U2F в моей программе WPF с использованием C ++ / CLI и libu2f-хоста yubico (https://github.com/Yubico/libu2f-host) У меня есть полностью нативная функция в моей dll C ++ / CLI, которая вызывает соответствующуюlibu2f функционирует, а затем возвращает указатель на u2f_reply (мой собственный класс), который содержит ответ и код ошибки.Однако, когда этот объект получен управляемой частью dll, код ответа все еще корректен, хотя строка ответа, похоже, имеетполностью испорчен.

Я попытался немедленно вернуть указатель на символ и затем превратить его в управляемую строку, используя маршал, и я попытался использовать стандартную строку C #. Я попытался использовать memcpy, чтобы скопировать ответ в response-> ответ, но без удачи. 

Managed_U2F_Reply^ Utilities::AuthenticateU2F(System::String^ challenge)
{
    IntPtr ptrToChallenge = System::Runtime::InteropServices::Marshal::StringToHGlobalAnsi(challenge);
    u2f_reply* reply = NativeUtilities::AuthenticateU2F(static_cast<char*>(ptrToChallenge.ToPointer()));
    //clean up before return
    System::Runtime::InteropServices::Marshal::FreeHGlobal(ptrToChallenge);
    Managed_U2F_Reply^ managedReply = gcnew Managed_U2F_Reply();
    managedReply->ResultCode = reply->responseCode;
    if (managedReply->ResultCode == 0)
    {
        managedReply->Response = gcnew String(reply->response, 0, reply->length);
    }
    return managedReply;
}

struct u2f_reply
{
    int responseCode;
    int length;
    char* response;
};

u2f_reply* NativeUtilities::AuthenticateU2F(char* challenge)
{
    u2f_reply* reply = new u2f_reply();
    char response[2048] = { 0 };
    size_t response_len = sizeof(response);
    u2fh_devs* devs = NULL;
    u2fh_rc rc;
    u2fh_initflags flags = (u2fh_initflags)0;
    rc = u2fh_global_init(flags);
    if (rc != U2FH_OK)
    {
        reply->responseCode = rc;
        return reply;
    }
    rc = u2fh_devs_init(&devs);
    if (rc != U2FH_OK)
    {
        reply->responseCode = rc;
        return reply;
    }
    rc = u2fh_devs_discover(devs, NULL);
    if (rc != U2FH_OK)
    {
        reply->responseCode = rc;
        return reply;
    }
    rc = u2fh_authenticate2(devs, challenge, "https://demo.yubico.com", response, &response_len, U2FH_REQUEST_USER_PRESENCE);
    if (rc != U2FH_OK)
    {
        reply->responseCode = rc;
        return reply;
    }
    u2fh_devs_done(devs);
    u2fh_global_done();
    reply->length = response_len;
    reply->response = response;//adding printf here prints it out correctly, yet it doesn't when I call it in Utilities::AuthenticateU2F
    reply->responseCode = rc;
    return reply;
}

Я ожидаю, что он вернет объект json с данными ответа, как здесь: https://developers.yubico.com/libu2f-host/, пока я получаю случайную строкуСимволы ASCII (не могу вставить это здесь) и без ошибок

1 Ответ

0 голосов
/ 20 сентября 2019

Благодаря Хансу Пассанту я исправил проблему с помощью: 

u2f_reply* NativeUtilities::AuthenticateU2F(char* challenge)
{
    u2f_reply* reply = new u2f_reply();
    char response[2048] = { 0 };
    size_t response_len = sizeof(response);
    u2fh_devs* devs = NULL;
    u2fh_rc rc;
    u2fh_initflags flags = (u2fh_initflags)0;
    rc = u2fh_global_init(flags);
    if (rc != U2FH_OK)
    {
        reply->responseCode = rc;
        return reply;
    }
    rc = u2fh_devs_init(&devs);
    if (rc != U2FH_OK)
    {
        reply->responseCode = rc;
        return reply;
    }
    rc = u2fh_devs_discover(devs, NULL);
    if (rc != U2FH_OK)
    {
        reply->responseCode = rc;
        return reply;
    }
    rc = u2fh_authenticate2(devs, challenge, "https://demo.yubico.com", response, &response_len, U2FH_REQUEST_USER_PRESENCE);
    if (rc != U2FH_OK)
    {
        reply->responseCode = rc;
        return reply;
    }
    u2fh_devs_done(devs);
    u2fh_global_done();
    reply->length = response_len;
    reply->response = new char[response_len];
    memcpy_s(reply->response, response_len, response, response_len);
    reply->responseCode = rc;
    return reply;
}
...