проблема преобразования кодировки iconv - PullRequest
0 голосов
/ 29 января 2010

У меня проблемы с преобразованием строк из utf8 в gb2312. Моя функция конвертирования ниже

void convert(const char *from_charset,const char *to_charset, char *inptr, char *outptr)
{
    size_t inleft = strlen(inptr);
    size_t outleft = inleft;
    iconv_t cd;     /* conversion descriptor */

    if ((cd = iconv_open(to_charset, from_charset)) == (iconv_t)(-1)) 
    {
            fprintf(stderr, "Cannot open converter from %s to %s\n", from_charset, to_charset);
            exit(8);
    }

    /* return code of iconv() */
    int rc = iconv(cd, &inptr, &inleft, &outptr, &outleft);
    if (rc == -1) 
    {
            fprintf(stderr, "Error in converting characters\n");

            if(errno == E2BIG)
                    printf("errno == E2BIG\n");
            if(errno == EILSEQ)
                    printf("errno == EILSEQ\n");
            if(errno == EINVAL)
                    printf("errno == EINVAL\n");

            iconv_close(cd);
            exit(8);
    }
    iconv_close(cd);
}

Это пример того, как я его использовал:

int len = 1000;
char *result = new char[len];
convert("UTF-8", "GB2312", some_string, result);

edit: я чаще всего получаю ошибку E2BIG.

Ответы [ 2 ]

4 голосов
/ 30 января 2010

outleft должен быть размером выходного буфера (например, 1000 байт), а не размером входящей строки.

При преобразовании длина строки обычно изменяется в процессе, и вы не можете знать, как долго это будет продолжаться до тех пор. E2BIG означает, что выходной буфер не был достаточно большим, и в этом случае вам нужно предоставить ему больше места для выходного буфера (обратите внимание, что он уже преобразовал некоторые данные и скорректировал четыре переменные, переданные ему соответствующим образом).

2 голосов
/ 30 января 2010

Как уже отмечали другие, E2BIG означает, что выходной буфер был недостаточно большим для преобразования, и вы использовали неправильное значение для outleft.

Но я также заметил некоторые другие возможные проблемы с вашей функцией. А именно, благодаря тому, как работает ваша функция, вызывающая сторона не может узнать, сколько байтов находится в выходной строке. Ваша функция convert () не завершает нулевой выходной буфер и не имеет средства сообщить вызывающей стороне количество байтов, записанных в outptr.

Если вы хотите иметь дело со строками с nul-terminates (и, похоже, это именно то, что вы хотите сделать, поскольку ваша входная строка имеет nul-terminated), вы можете найти следующий подход намного лучше:


char *
convert (const char *from_charset, const char *to_charset, const char *input)
{
 size_t inleft, outleft, converted = 0;
 char *output, *outbuf, *tmp;
 const char *inbuf;
 size_t outlen;
 iconv_t cd;

 if ((cd = iconv_open (to_charset, from_charset)) == (iconv_t) -1)
  return NULL;

 inleft = strlen (input);
 inbuf = input;

 /* we'll start off allocating an output buffer which is the same size
  * as our input buffer. */
 outlen = inleft;

 /* we allocate 4 bytes more than what we need for nul-termination... */
 if (!(output = malloc (outlen + 4))) {
  iconv_close (cd);
  return NULL;
 }

 do {
  errno = 0;
  outbuf = output + converted;
  outleft = outlen - converted;

  converted = iconv (cd, (char **) &inbuf, &inleft, &outbuf, &outleft);
  if (converted != (size_t) -1 || errno == EINVAL) {
   /*
    * EINVAL  An  incomplete  multibyte sequence has been encoun­-
    *         tered in the input.
    *
    * We'll just truncate it and ignore it.
    */
   break;
  }

  if (errno != E2BIG) {
   /*
    * EILSEQ An invalid multibyte sequence has been  encountered
    *        in the input.
    *
    * Bad input, we can't really recover from this. 
    */
   iconv_close (cd);
   free (output);
   return NULL;
  }

  /*
   * E2BIG   There is not sufficient room at *outbuf.
   *
   * We just need to grow our outbuffer and try again.
   */

  converted = outbuf - out;
  outlen += inleft * 2 + 8;

  if (!(tmp = realloc (output, outlen + 4))) {
   iconv_close (cd);
   free (output);
   return NULL;
  }

  output = tmp;
  outbuf = output + converted;
 } while (1);

 /* flush the iconv conversion */
 iconv (cd, NULL, NULL, &outbuf, &outleft);
 iconv_close (cd);

 /* Note: not all charsets can be nul-terminated with a single
  * nul byte. UCS2, for example, needs 2 nul bytes and UCS4
  * needs 4. I hope that 4 nul bytes is enough to terminate all
  * multibyte charsets? */

 /* nul-terminate the string */
 memset (outbuf, 0, 4);

 return output;
}
...