Ответ Адама может быть правильным для вашей непосредственной проблемы с «токенизатором». Вот несколько общих советов:
Помогает, когда кто-то находится на незнакомой территории, читать дорожные знаки, например это вверху страницы загрузок: "" "Хотя Python 3.0 теперь доступен, многие пакеты, которые требуются NLTK, не имеют дистрибутивов для Python 3.0. На данный момент вы должны использовать NLTK с Python 2.4. , 2.5. или только 2.6. *. "" "... это избавило бы вас от попыток использовать Python 3.1. Более того, попытки изучать Python 2.x и 3.x одновременно слишком сложны для новичка.
"" "Я устанавливал python много раз за последние несколько дней, надеясь, что другая версия или более лучшая установка может помочь" "" ... повторные установки одной и той же версии вряд ли помогут.
"" "Однако, from nltk.tokenizer import *
возвращает File "stdin", line1
" "" ... при обращении за помощью покажите свой ввод и ВСЕ выходные данные, например
>>> from nosuchthing import *
Traceback (most recent call last):
File "<stdin>", line 1, in <module>
ImportError: No module named nosuchthing
>>>
и не печатать по памяти; используйте копирование / вставку.
В случае возникновения проблемы спланируйте расследование возможных причин. Сначала посмотрите на тех, у кого высокая достоверность и низкая стоимость расследования (например, опечатка или другая ошибка транскрипции). Я не могу вспомнить, где я читал этот совет, но стоит помнить: «Прежде чем винить деяния Бога и деяния Врат, проверь себя».