преобразовать Java-список карты в спарк-фрейм данных в Scala - PullRequest
0 голосов
/ 20 марта 2019

У меня есть список в java

List<Map<String,Object>> list=new ArrayList<>();
Map<String, Object> map=new HashMap<String, Object>();
map.put("id", 1);
map.put("name","tom");
list.add(map);

Я хочу преобразовать его в Spark Dataframe в scala , как это сделать?

Мой реальный случай - использовать mybatis вместо spark jdbc, потому что я думаю, что spark не использует пул, я получаю данные List с mybatis и преобразовываю их в spark Dataframe для расчета.

Я знаю, что могу преобразовать Scala Seqв Datafame:

 Seq((1)).toDF("id")

, а также знаю, как конвертировать Java List<String> в Scala Seq Но я не знаю, как конвертировать Java List<Map<String,Object>>

1 Ответ

0 голосов
/ 20 марта 2019

Список в Df:

DataFrame df = sqc.createDataset (data, Encoders.STRING ()). ToDF ();

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...