Код выхода: 127 с fabric2 при выполнении удаленной команды ssh - PullRequest
Новая
       42

Код выхода: 127 с fabric2 при выполнении удаленной команды ssh

0 голосов
/ 28 мая 2018

У меня странное поведение с командным модулем fabric2 .Эти команды работают как шарм: 

connect = Connection(host=h, user=u ,connect_kwargs={"password":p})
connect.run('mkdir temp_streaming')
connect.put(m, "temp_streaming/mapper.py")
connect.put(r, "temp_streaming/reducer.py")

Но когда дело доходит до этой: 

input_path = input("Please choose the input of your program (on your HDFS File System) ")
output_path = input("Please choose a name for your output folder ")

main_command = str('yarn jar '+ jar_path+' -files mapper.py,reducer.py -mapper temp_streaming/mapper.py -reducer temp_streaming/reducer.py -input '+ input_path + ' -output '+ output_path)

connect.run(main_command)

Я получаю эту ошибку, я не могу понять: 

bash: yarn: command not found
Traceback (most recent call last):
  File "__main.py__", line 77, in <module>
    main()
  File "__main.py__", line 65, in main
   RunMapReduce(mapper, reducer, jar_path)
  File "__main.py__", line 46, in RunMapReduce
   connect.run(main_command)
 File "<decorator-gen-3>", line 2, in run
 File "/usr/local/lib/python3.5/dist-packages/fabric2/connection.py", line 30, in opens
return method(self, *args, **kwargs)
 File "/usr/local/lib/python3.5/dist-packages/fabric2/connection.py", line 586, in run
return self._run(runner, command, **kwargs)
File "/usr/local/lib/python3.5/dist-packages/invoke/context.py", line 100, in _run
return runner.run(command, **kwargs)
File "/usr/local/lib/python3.5/dist-packages/invoke/runners.py", line 268, in run
return self._run_body(command, **kwargs)
File "/usr/local/lib/python3.5/dist-packages/invoke/runners.py", line 401, in _run_body
raise UnexpectedExit(result)
invoke.exceptions.UnexpectedExit: Encountered a bad command exit code!

Command: 'yarn jar /home/hadoop/hadoop/share/hadoop/tools/lib/hadoop-streaming-2.8.4.jar -files mapper.py,reducer.py -mapper temp_streaming/mapper.py -reducer temp_streaming/reducer.py -input /books/kafka_metamorphosis.txt -output /test'

Exit code: 127

Stdout: already printed

Stderr: already printed

Он действует так, как если бы удаленный сервер не знал команду yarn , хотя эта команда bash работает , когда я напрямую захожу на сервер с помощью ssh и запускаю его.Мне кажется, что это связано с этой библиотекой, но я не смог решить мою проблему с документацией.

1 Ответ

0 голосов
/ 02 июня 2018

Я тоже сталкивался с этой проблемой: оказалось, что SSH, запускаемый Fabric, является неинтерактивной оболочкой .Переменная $PATH, содержащая путь к вам yarn, задана в /etc/profile или ~/.bash_profile, или ~/.bashrc, ни один из которых не получен.

Вот ссылка вместе с некоторыми решениями.

Лично я не фанат игры с этими файлами => То, что я только что сделал (перед тем, как наткнуться на эту ссылку), я использовал полные пути двоичных файлов: /usr/bin/yarn [the rest of your command]

...