Как исправить ошибку json.decoder.JSONDecodeError при использовании API googletrans? - PullRequest
0 голосов
/ 27 мая 2019

Я пытаюсь перевести серию твитов с итальянского на английский. Они содержатся в CSV-файле, поэтому я извлекаю их с помощью панд, чтобы вычислить мнение с помощью Vader. К сожалению, я получаю эту ошибку json.decoder.JSONDecodeError: Ожидаемое значение: строка 1, столбец 1 (символ 0).

Я пытался удалить эмодзи из твита и использовать vpn, как указано в некоторых других сообщениях, но он не работает.

def remove_emoji(text):
    return emoji.get_emoji_regexp().sub(u'', text)

def extract_emojis(str):
  return ''.join(c for c in str if c in emoji.UNICODE_EMOJI)

def clean_emojis(text):
    toreturn = ""
    for c in text:
        if c not in emoji.UNICODE_EMOJI:
            toreturn += c
    return toreturn

def sentiment_analyzer_scores(text, engl=True):
    if engl:
        translation = text
    else:
        try:
            emojis = extract_emojis(text) 
            text = clean_emojis(text)

            demoji.replace(text)
            text = remove_emoji(text)
            text = text.encode('ascii', 'ignore').decode('ascii')

            # translator= Translator(from_lang="Italian",to_lang="English")
            # translation = translator.translate(text)
            translation = translator.translate(text).text
            # print(translation)

        except Error as e:
            print(text)
            print(e)
            pass

    text = translation + emojis
    # print(text)
    score = analyser.polarity_scores(text)
    return score['compound']

def anl_tweets(lst, engl=True):
    sents = []
    id = 0
    for tweet_text in lst:
        try:
            sentiment = sentiment_analyzer_scores(tweet_text, engl)
            sents.append(sentiment)
            id = id + 1
            print("Sentiment del tweet n° %s = %s" % (id, sentiment))

        except Error as e:
            sents.append(0)
            print(e)
    return sents

#Main
translator = Translator()
analyser = SentimentIntensityAnalyzer()
file_name = 'file.csv'
df = pd.read_csv(file_name)
print(df.shape)

# Calculate Sentiment and add column
df['tweet_sentiment'] = anl_tweets(df.tweet_text, False)
# Save the modifies
df.to_csv(file_name, encoding='utf-8', index=False)

1 Ответ

0 голосов
/ 05 июня 2019

Это не имеет ничего общего с эмодзи, у Google есть ограничения на количество символов, которые вы можете перевести, и когда вы достигнете этого предела, Google API просто блокирует вас.

Читайте о квоте здесь Простое решение - разбить ваш скрипт на несколько частей и использовать прокси-сервер / другой IP-адрес.

Другой вариант - https://pypi.org/project/translate/ (Я еще не пробовал)

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...