Как исправить зависимости ноутбука Jupyter? ModuleNotFoundError: нет модуля с именем 'boto3'

Question

Я использую кластер EMR (AWS), но я не понимаю, как ноутбук импортирует пакеты. Я использую ядро ​​PySpark.

import boto3
No module named 'boto3'
Traceback (most recent call last):
ModuleNotFoundError: No module named 'boto3'

print (sys.version) показывает

3.7.6 (default, Feb 26 2020, 20:54:15) 
[GCC 7.3.1 20180712 (Red Hat 7.3.1-6)]

print (sys.executable) показывает

/tmp/1594625399736-0/bin/python

У меня есть оба Conda и pip3 устанавливают boto3.

Как решить?

Answer 1

Вы используете pyspark? Если да, то вам нужно установить пакеты в контексте Spark. Обратитесь к этому AWS документу: https://aws.amazon.com/blogs/big-data/install-python-libraries-on-a-running-cluster-with-emr-notebooks/

аналогичным образом установите любые пакеты зависимостей, если вы видите ошибку «модуль не найден» при импорте. Убедитесь, что версии совместимы.

Answer 2

s c .list_packages ()

Package                    Version
-------------------------- -------
beautifulsoup4             4.9.0  
boto                       2.49.0 
cycler                     0.10.0 
jmespath                   0.9.5  
kiwisolver                 1.2.0  
lxml                       4.5.0  
matplotlib                 3.2.2  
mysqlclient                1.4.2  
nltk                       3.4.5  
nose                       1.3.4  
numpy                      1.19.0 
pandas                     1.0.5  
pip                        9.0.1  
py-dateutil                2.2    
py4j                       0.10.9 
pyparsing                  2.4.7  
pyspark                    3.0.0  
python-dateutil            2.8.1  
python37-sagemaker-pyspark 1.3.0  
pytz                       2020.1 
PyYAML                     5.3.1  
setuptools                 28.8.0 
six                        1.15.0 
soupsieve                  1.9.5  
wheel                      0.29.0 
windmill                   1.6

У меня есть бото.