Ошибка чтения JSON с использованием elephantbird - PIG - PullRequest
Новая
       11

Ошибка чтения JSON с использованием elephantbird - PIG

0 голосов
/ 25 февраля 2012

Я не могу прочитать файл JSON, используя ElephantBird и Pig.Я хочу знать, где я делаю ошибку.

Данные: 

{ "nrcpts": "1",
  "src": "info@example.com",
  "sendmailid": "p6D0r0u1006229",
  "relay": "app03.example.com",
  "classnumber": "0",
  "msgid": "WARQZCXAEMSSVWPPOOYZXR
LQIKMFUY.155763@example.com",
  "pid": "6229",
  "month": "Jul",
  "time": "20:53:00",
  "day": "12",
  "mailserver": "mail5",
  "size": "57395"
}

Код: 

json1 = load '/user/hdetl/funnel/uetsample.dat' using com.twitter.elephantbird.pig.load.JsonLoader();

dat   = FOREACH json1 GENERATE $0#'mailserver' AS mailserver;
dump dat;

Ошибка: 

Input(s):
Failed to read data from "/user/hdetl/funnel/uetsample.dat"

detailed error :
Pig Stack Trace
---------------
ERROR 2997: Unable to recreate exception from backed error: Error: in

org.apache.pig.impl.logicalLayer.FrontendException: ERROR 1066: Unable to open iterator for alias dat. Backend error : Unable to recreate exception from back
ed error: Error: in
        at org.apache.pig.PigServer.openIterator(PigServer.java:891)
        at org.apache.pig.tools.grunt.GruntParser.processDump(GruntParser.java:655)
        at org.apache.pig.tools.pigscript.parser.PigScriptParser.parse(PigScriptParser.java:303)
        at org.apache.pig.tools.grunt.GruntParser.parseStopOnError(GruntParser.java:188)
        at org.apache.pig.tools.grunt.GruntParser.parseStopOnError(GruntParser.java:164)
        at org.apache.pig.tools.grunt.Grunt.run(Grunt.java:69)
        at org.apache.pig.Main.run(Main.java:495)
        at org.apache.pig.Main.main(Main.java:111)
        at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
        at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
        at java.lang.reflect.Method.invoke(Method.java:597)
        at org.apache.hadoop.util.RunJar.main(RunJar.java:186)
Caused by: org.apache.pig.backend.executionengine.ExecException: ERROR 2997: Unable to recreate exception from backed error: Error: in
        at org.apache.pig.backend.hadoop.executionengine.mapReduceLayer.Launcher.getErrorMessages(Launcher.java:221)
        at org.apache.pig.backend.hadoop.executionengine.mapReduceLayer.Launcher.getStats(Launcher.java:151)
        at org.apache.pig.backend.hadoop.executionengine.mapReduceLayer.MapReduceLauncher.launchPig(MapReduceLauncher.java:344)
        at org.apache.pig.PigServer.launchPlan(PigServer.java:1314)
        at org.apache.pig.PigServer.executeCompiledLogicalPlan(PigServer.java:1299)
        at org.apache.pig.PigServer.storeEx(PigServer.java:996)
        at org.apache.pig.PigServer.store(PigServer.java:963)
        at org.apache.pig.PigServer.openIterator(PigServer.java:876)

Ответы [ 2 ]

0 голосов
/ 03 октября 2014

Довольно старый пост, но у кого-то может быть похожая проблема.

Я создал входной файл из данных, представленных в вопросе.
Я не смог загрузить этот файл из-за ненужного Введите в строке: 

"msgid": "WARQZCXAEMSSVWPPOOYZXR
LQIKMFUY.155763@example.com",

Но исправление, которое не дало ожидаемого результата.Я удалил все записи из файла, поэтому в итоге у меня есть только одна строка.

Файл был загружен: 

dump json1
([time#20:53:00,msgid#WARQZCXAEMSSVWPPOOYZXRLQIKMFUY.155763@example.com,relay#app03.example.com,mailserver#mail5,month#Jul,pid#6229,classnumber#0,day#12,src#info@example.com,sendmailid#p6D0r0u1006229,nrcpts#1,size#57395])

, и вы foreach работает: 

dat   = FOREACH json1 GENERATE $0#'mailserver' AS mailserver;
dump dat

(mail5)
0 голосов
/ 28 февраля 2012

Я не использовал загрузчик JSON, но я думаю, вы сможете сбросить $ 0 в вашем foreach. Я просто не верю, что загрузчик просто превращает все между {и} в одну запись (Tuple). 

dat   = FOREACH json1 GENERATE mailserver;
...