Как декодировать данные JSON с пакетом mlr3 на этапе прогнозирования? - PullRequest
0 голосов
/ 03 марта 2020

Я разработал graphlearner с пакетом mlr3, и я хотел бы опубликовать sh в сервисе Rplumber. Однако когда я получаю данные для прогнозирования (данные в формате JSON), graphlearner не может распознать данные, потому что функция fromJSON для jsonlite не выводит правильные типы (для которых был построен график). научился). У вас есть решение для этого? Существует ли механизм управления JSON данными в млр3 на этапе прогнозирования?

Шаг обучения

library(mlr3)
imp_missind = po("missind")
imp_fct     = po("imputenewlvl", param_vals =list(affect_columns = selector_type("factor")))
imp_num     = po("imputehist", param_vals =list(affect_columns = selector_type("numeric")))
learner = lrn('regr.ranger')
graph = po("copy", 2) %>>% 
  gunion(list(imp_missind, imp_num %>>% imp_fct)) %>>%
  po("featureunion") %>>%
  po(learner)
t1 = tsk("boston_housing")
g1 = GraphLearner$new(graph)
g1$train(t1)
saveRDS(g1,'my-model')

Шаг прогнозирования: работает (смоделировать данные для прогнозирования, удалить целевое число)

data=t1$data()[1:1,-1]
model = readRDS('my-model')
model$predict_newdata(newdata=data)

Шаг прогнозирования: не работает (имитировать JSON данные для прогнозирования)

model = readRDS('my-model')
data = t1$data()[1:1,-1]
json = fromJSON(toJSON(data, na="string"))
model$predict_newdata(newdata=json)

и ошибка:

Ошибка: не удается выполнить привязку rbind: типы не соответствуют столбцу: cmedv (цифра c! = целое число)

ОБНОВЛЕНИЕ Воспроизводимый пример

library(mlr3learners)
library(mlr3)
library(mlr3pipelines)
library(jsonlite)



imp_missind = po("missind")

imp_fct     = po("imputenewlvl", param_vals =list(affect_columns = selector_type("factor")))

imp_num     = po("imputehist", param_vals =list(affect_columns = selector_type("numeric")))

learner = lrn('regr.ranger')

graph = po("copy", 2) %>>% 
  gunion(list(imp_missind, imp_num %>>% imp_fct)) %>>%
  po("featureunion") %>>%
  po(learner)


task = tsk("boston_housing")


graphlearner = GraphLearner$new(graph)

#train model 
graphlearner$train(task)

# create data to predict  (juste one observation)

data= task$data()
data[1:1, chas := NA]
data = data[1:1,-1]




# look the the types of columns
str(data)

# predictin, this works fine 
predict(graphlearner, data)


# simulate the case when json data is received

json_data = toJSON(data, na="string")

print(json_data)

# get R data from json formatted data
data_from_json = fromJSON(json_data)

# look the types of columns, some are different numeric != integer, factor != char
str(data_from_json)

# try to predict, this does not work, get erro  :    cmedv (numeric != integer)
predict(graphlearner,data_from_json)

1 Ответ

4 голосов
/ 03 марта 2020

Я думаю, что мы могли бы захотеть исправить это в какой-то момент, но до тех пор, пока исправление не станет доступным, я бы предложил исправить проблему, исправив сохраненную схему task$feature_types:

library(mlr3misc)
repair_schema = function(data, feature_types) {
   imap_dtc(data, function(v, k) {
    ft_type = feature_types[id == k,][["type"]]
    if (typeof(v) != ft_type) {
      fn = switch(ft_type,
        "character" = as.character,
        "factor" = as.factor,
        "numeric" = as.numeric,
        "integer" = as.integer
      )
      v = fn(v)
    }
    return(v)
  })
}
data_from_json2 = repair_schema(data_from_json, task$feature_types)
predict(graphlearner,data_from_json2)

Этот подход также предоставит вам больше гибкости, поскольку вы можете столкнуться с рядом проблем кодирования, которые не всегда могут быть ожидаемы.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...