GEOMETRY ST_GeomFromWKB (двоичный wkb) на искре с использованием Java Language - PullRequest
Новая
       40

GEOMETRY ST_GeomFromWKB (двоичный wkb) на искре с использованием Java Language

1 голос
/ 06 августа 2020

У меня есть фрейм данных с типом столбца Binary: 

+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+
|BinaryGeometry                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                         
+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+
|[00 00 00 00 01 03 00 00 00 01 00 00 00 11 00 00 00 04 00 F0 00 DC CC 1A C0 87 14 01 81 1E 1B 41 40 FC FF EF 00 68 AA 1A C0 BF EE 57 20 85 19 41 40 04 00 F0 00 8C 86 1A C0 CC DC 8B DC AE 1A 41 40 FF FF EF 00 44 74 1A C0 CA 9D 5D 61 10 1C 41 40 FF FF EF 00 64 63 1A C0 BF 1F 98 0B 3A 1D 41 40 FF FF EF 00 44 47 1A C0 E4 6B A0 DD CE 1D 41 40 FC FF EF 00 D8 2B 1A C0 54 E4 71 67 6D 1C 41 40 FF FF EF 00 44 1A 1A C0 BF 1F 98 0B 3A 1D 41 40 02 00 F0 00 80 0B 1A C0 0D 80 00 13 2F 23 41 40 02 00 F0 00 B0 35 1A C0 CC F6 23 F8 BD 26 41 40 04 00 F0 00 0C 43 1A C0 73 1A 44 AF 16 26 41 40 02 00 F0 00 40 5A 1A C0 FF 54 9C 7C 2D 27 41 40 02 00 F0 00 50 68 1A C0 87 6E B9 42 44 28 41 40 02 00 F0 00 00 7C 1A C0 78 2B 85 BA F5 26 41 40 FC FF EF 00 18 91 1A C0 49 96 6F 58 C6 28 41 40 02 00 F0 00 B0 BC 1A C0 91 FA 4B 0E 7F 20 41 40 04 00 F0 00 DC CC 1A C0 87 14 01 81 1E 1B 41 40] |
+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+

Я хочу преобразовать хорошо известный двоичный wkb в геометрию.

Из моих исследований sh Я обнаружил эта функция ST_GeomFromWKB возвращает значение ST_Geometry, которое преобразуется из значения LONG BINARY, содержащего Well Known Binary (WKB) представление ST_Geometry.

Я пытаюсь применить это к моему фрейму данных, Но столбец BinaryGeometry имеет тип Binary, например Array[Byte].

Мой вопрос: как получить значение LONG BINARY из двоичного столбца на искре?

Я пробовал hex функция. 

df.withColumn("BinaryGeometry",hex(col("BinaryGeometry")))
        .withColumn("BinaryGeometry",expr("ST_GeomFromWKB(BinaryGeometry)"))

Я получаю, что следующий вывод неверен: 

POINT (0 0)

EDIT 

|-- BinaryGeometry: binary (nullable = true)

См. Также http://www.h2gis.org/docs/dev/ST_GeomFromWKB/

1 Ответ

1 голос
/ 13 августа 2020

Я решил проблему следующим образом:

проблема в загрузке таблицы базы данных, мы должны использовать следующий код: 

Dataset <Row> df_zones =        sparkSession.read().format("jdbc").option("url", "").option("driver", "com.mysql.jdbc.Driver").option("dbtable", "(select ST_AsWKT(geom) as BinaryGeometry  from zones) as t").option("user", "root").option("password", "").load();
...