Ошибка сериализации Nifi RecordReader & RecordWriter.IllegalTypeConversionException;Невозможно преобразовать значение класса;потому что тип не поддерживается - PullRequest
0 голосов
/ 04 марта 2019

Я пытаюсь преобразовать JSON в JSON, используя JoltTransformRecord в Apache Nifi.Когда я пытаюсь преобразовать JSON в https://jolt -demo.appspot.com / , я получаю правильный результат.Это хорошо.

Но, когда я пытаюсь преобразовать JSON с помощью JoltTransformRecord, это вызывает исключение.Ошибка есть; "Невозможно преобразовать значение класса [Ljava.lang.Object; поскольку тип не поддерживается" * .Но я не понял, почему я получаю эту ошибку.Я проверил свои схемы ввода и вывода, но ничего не нашел.Они выглядят как правильные.

Ниже приведены мои примеры ввода и вывода json, спецификации толчка, схемы ввода и вывода.Также для этого я использую JsonTreeReader и JsonRecordSetWriter .

--- Как я могу решить эту проблему?---

Пример ввода json для JoltTransformRecord (В этом примере внутри массива только один объект json. Но на самом деле внутри массива много объектов json.);

[ {
  "uuid" : "MFMS1-MC5",
  "componentId" : "path1",
  "Samples" : {
    "PathFeedrate" : [ {
      "dataItemId" : "pf",
      "timestamp" : "2019-03-01T21:48:27.940558Z",
      "sequence" : "68104",
      "value" : "425.5333",
      "name" : "Fact",
      "subType" : "ACTUAL"
    }, {
      "dataItemId" : "pf",
      "timestamp" : "2019-03-01T21:48:30.244219Z",
      "sequence" : "68117",
      "value" : "0",
      "name" : "Fact",
      "subType" : "ACTUAL"
    } ]
  },
  "Events" : {
    "SequenceNumber" : [ {
      "dataItemId" : "seq",
      "timestamp" : "2019-03-01T21:48:27.940558Z",
      "sequence" : "68105",
      "value" : "0",
      "name" : "sequenceNum"
    } ],
    "Unit" : [ {
      "dataItemId" : "unit",
      "timestamp" : "2019-03-01T21:48:27.940558Z",
      "sequence" : "68106",
      "value" : "13",
      "name" : "unitNum"
    } ]
  }
}]

Пример вывода Json Я хочу ;

{
  "DataItems" : [ {
    "uuid" : "MFMS1-MC5",
    "componentId" : "path1",
    "eventType" : "Samples",
    "type" : "PathFeedrate",
    "dataItemId" : "pf",
    "timestamp" : "2019-03-01T21:48:27.940558Z",
    "sequence" : "68104",
    "value" : "425.5333",
    "name" : "Fact",
    "subType" : "ACTUAL"
  }, {
    "uuid" : "MFMS1-MC5",
    "componentId" : "path1",
    "eventType" : "Samples",
    "type" : "PathFeedrate",
    "dataItemId" : "pf",
    "timestamp" : "2019-03-01T21:48:30.244219Z",
    "sequence" : "68117",
    "value" : "0",
    "name" : "Fact",
    "subType" : "ACTUAL"
  }, {
    "uuid" : "MFMS1-MC5",
    "componentId" : "path1",
    "eventType" : "Events",
    "type" : "SequenceNumber",
    "dataItemId" : "seq",
    "timestamp" : "2019-03-01T21:48:27.940558Z",
    "sequence" : "68105",
    "value" : "0",
    "name" : "sequenceNum"
  }, {
    "uuid" : "MFMS1-MC5",
    "componentId" : "path1",
    "eventType" : "Events",
    "type" : "Unit",
    "dataItemId" : "unit",
    "timestamp" : "2019-03-01T21:48:27.940558Z",
    "sequence" : "68106",
    "value" : "13",
    "name" : "unitNum"
  } ]
}

My Jolt Спецификация ;

[
  {
    "operation": "shift",
    "spec": {
      "Samples": {
        "*": {
          "*": {
            "@(3,uuid)": "Items.&2[#2].uuid",
            "@(3,componentId)": "Items.&2[#2].componentId",
            "$2": "Items.&2[#2].eventType",
            "$1": "Items.&2[#2].type",
            "*": "Items.&2[#2].&"
          }
        }
      },
      "Events": {
        "*": {
          "*": {
            "@(3,uuid)": "Items.&2[#2].uuid",
            "@(3,componentId)": "Items.&2[#2].componentId",
            "$2": "Items.&2[#2].eventType",
            "$1": "Items.&2[#2].type",
            "*": "Items.&2[#2].&"
          }
        }
      },
      "Condition": {
        "*": {
          "*": {
            "@(3,uuid)": "Items.&2[#2].uuid",
            "@(3,componentId)": "Items.&2[#2].componentId",
            "$2": "Items.&2[#2].eventType",
            "$1": "Items.&2[#2].value",
            "*": "Items.&2[#2].&"
          }
        }
      }
    }
  },
  {
    "operation": "shift",
    "spec": {
      "Items": {
        "*": {
          "*": "DataItems[]"
        }
      }
    }
  }
]

Эта спецификация работает правильно.Потому что я попробовал это в демоверсии Jolt transform.

Я использую JsonTreeReader для чтения json в JoltTransformRecord .И это моя схема ввода ;

{
    "name": "Items",
    "namespace": "Items",
    "type": "record",
    "fields": [
        {
            "name": "uuid",
            "type": "string"
        },
        {
            "name": "componentId",
            "type": "string"
        },
        {
            "name": "Samples",
            "type": ["null", {
                "type": "map",
                "values": {
                    "type": "array",
                    "items": {
                        "name": "SamplesDataItem",
                        "type": "record",
                        "fields": [
                            {
                                "name": "dataItemId",
                                "type": "string"
                            },
                            {
                                "name": "timestamp",
                                "type": "string"
                            },
                            {
                                "name": "sequence",
                                "type": "string"
                            },
                            {
                                "name": "value",
                                "type": "string"
                            },
                            {
                                "name": "name",
                                "type": ["null", "string"]
                            },
                            {
                                "name": "subType",
                                "type": ["null", "string"]
                            },
                            {
                                "name": "sampleRate",
                                "type": ["null", "string"]
                            },
                            {
                                "name": "statistic",
                                "type": ["null", "string"]
                            },
                            {
                                "name": "duration",
                                "type": ["null", "string"]
                            },
                            {
                                "name": "sampleCount",
                                "type": ["null", "string"]
                            },
                            {
                                "name": "compositionId",
                                "type": ["null", "string"]
                            },
                            {
                                "name": "resetTriggered",
                                "type": ["null", "string"]
                            }
                        ]
                    }
                }
            }]
        },
        {
            "name": "Events",
            "type": ["null", {
                "type": "map",
                "values": {
                    "type": "array",
                    "items": {
                        "name": "EventsDataItem",
                        "type": "record",
                        "fields": [
                            {
                                "name": "dataItemId",
                                "type": "string"
                            },
                            {
                                "name": "timestamp",
                                "type": "string"
                            },
                            {
                                "name": "sequence",
                                "type": "string"
                            },
                            {
                                "name": "value",
                                "type": "string"
                            },
                            {
                                "name": "name",
                                "type": ["null", "string"]
                            },
                            {
                                "name": "subType",
                                "type": ["null", "string"]
                            },
                            {
                                "name": "compositionId",
                                "type": ["null", "string"]
                            },
                            {
                                "name": "resetTriggered",
                                "type": ["null", "string"]
                            }
                        ]
                    }
                }
            }]
        },
        {
            "name": "Condition",
            "type": ["null", {
                "type": "map",
                "values": {
                    "type": "array",
                    "items": {
                        "name": "ConditionDataItem",
                        "type": "record",
                        "fields": [
                            {
                                "name": "dataItemId",
                                "type": "string"
                            },
                            {
                                "name": "timestamp",
                                "type": "string"
                            },
                            {
                                "name": "type",
                                "type": "string"
                            },
                            {
                                "name": "sequence",
                                "type": "string"
                            },
                            {
                                "name": "name",
                                "type": ["null", "string"]
                            },
                            {
                                "name": "subType",
                                "type": ["null", "string"]
                            },
                            {
                                "name": "nativeCode",
                                "type": ["null", "string"]
                            },
                            {
                                "name": "nativeSeverity",
                                "type": ["null", "string"]
                            },
                            {
                                "name": "qualifier",
                                "type": ["null", "string"]
                            },
                            {
                                "name": "statistic",
                                "type": ["null", "string"]
                            },
                            {
                                "name": "compositionId",
                                "type": ["null", "string"]
                            }
                        ]
                    }
                }
            }]
        }
    ]
}

Я использую JsonRecordSetWriter для преобразования результата записи в JoltTransformRecord .И это моя схема вывода ;

{
    "name": "Items",
    "type": "record",
    "namespace": "Items",
    "fields": [
        {
            "name": "DataItems",
            "type": {
                "type": "array",
                "items": {
                    "name": "DataItems",
                    "type": "record",
                    "fields": [
                        {
                            "name": "uuid",
                            "type": "string"
                        },
                        {
                            "name": "componentId",
                            "type": "string"
                        },
                        {
                            "name": "eventType",
                            "type": "string"
                        },
                        {
                            "name": "type",
                            "type": "string"
                        },
                        {
                            "name": "dataItemId",
                            "type": "string"
                        },
                        {
                            "name": "timestamp",
                            "type": "string"
                        },
                        {
                            "name": "value",
                            "type": "string"
                        },
                        {
                            "name": "name",
                            "type": ["null", "string"],
                            "default": null
                        },
                        {
                            "name": "subType",
                            "type": ["null", "string"],
                            "default": null
                        }
                    ]
                }
            }
        }
    ]
} 

1 Ответ

0 голосов
/ 06 марта 2019

Это действительно ошибка в утилитах обработки записей, я написал NIFI-6105 для исправления.Хороший улов!

В качестве обходного пути, поскольку у вас есть JSON в качестве ввода и вывода, вы можете использовать JoltTransformJson вместо JoltTransformRecord.В качестве альтернативы, если вы знаете ключи на карте (например, PathFeedrate), вы можете изменить схему так, чтобы она воспринималась как запись, а не как карта, что может помочь вам решить проблему.

...