MapReduce с Hadoop, "Каталог файлов Ouput уже существует" - PullRequest
0 голосов
/ 05 декабря 2018

Я пытаюсь использовать кластер, размещенный на сервисе Amazons EMR.Я пытаюсь запустить пример WordCount, используя файл WordCount.jar и input1.txt со случайной папкой вывода.Мой синтаксис для ввода: WordCount argv [1] argv [2].Путь для input1.txt будет argv [1], а argv [2] - это путь к выходу.Я знаю, что hadoop злится, если вы пытаетесь использовать один и тот же выходной каталог несколько раз.Просто чтобы быть абсолютно уверенным для вас, ребята, у меня есть строки ->

FileInputFormat.addInputPath(job, new Path(args[1]));
FileOutputFormat.setOutputPath(job, new Path(args[2]));

И все же, независимо от того, в какую выходную директорию я поместил, это мой результат,

Exception in thread "main" org.apache.hadoop.mapred.FileAlreadyExistsException: Output directory https://s3.us-east-2.amazonaws.com/mydirectory/gabagooba already exists
at org.apache.hadoop.mapreduce.lib.output.FileOutputFormat.checkOutputSpecs(FileOutputFormat.java:146)
at org.apache.hadoop.mapreduce.JobSubmitter.checkSpecs(JobSubmitter.java:268)
at org.apache.hadoop.mapreduce.JobSubmitter.submitJobInternal(JobSubmitter.java:141)
at org.apache.hadoop.mapreduce.Job$11.run(Job.java:1341)
at org.apache.hadoop.mapreduce.Job$11.run(Job.java:1338)
at java.security.AccessController.doPrivileged(Native Method)
at javax.security.auth.Subject.doAs(Subject.java:422)
at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1844)
at org.apache.hadoop.mapreduce.Job.submit(Job.java:1338)
at org.apache.hadoop.mapreduce.Job.waitForCompletion(Job.java:1359)
at WordCountDemo.WordCount.main(WordCount.java:62)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:498)
at org.apache.hadoop.util.RunJar.run(RunJar.java:239)
at org.apache.hadoop.util.RunJar.main(RunJar.java:153)

Мои выходные директориипредназначены для хранения в хранилище S3, но когда я иду туда, нет никаких выходов.Любая помощь вытащит меня из этой колеи.

1 Ответ

0 голосов
/ 05 декабря 2018

Можете ли вы указать выходное местоположение как s3 вместо https.

Пример: s3: // yourbucket / output

Ref: https://docs.aws.amazon.com/emr/latest/ManagementGuide/emr-plan-output.html

...