Несоответствие счета для просмотра в beeline и spark2-shell: просмотр внутри с использованием соединений на паркетных столах - PullRequest
0 голосов
/ 26 февраля 2019

sqlContext.sql("select count(*) from db_bame.vw_name") количество отсчетов x

и

beeline> select count(*) from db_bame.vw_name число подсчетов x + 4

внутренне с использованием левых соединений в таблицах формата паркета.

Как мне получить правильный счет в искре.Я попытался обновить все таблицы, которые находятся в представлении:

spark.catalog.refreshTable("db_name.table_name")

и

также попытался установить следующие свойства:

sqlContext.sql("SET spark.sql.hive.convertMetastoreParquet = false")
sqlContext.sql("SET spark.sql.hive.metastorePartitionPruning = true")
...