Я пытаюсь отобразить все столбцы таблицы в кирпичах данных azure, используя python. Я столкнулся с одной проблемой, я получал только лучшие 20 строк. Но мне нужны все таблицы со столбцами, присутствующими в конкретной базе данных. Пожалуйста, кто-нибудь может подсказать подход для этого. Код указан ниже. \
Код:
Table_name = spark.sql("SHOW TABLES FROM default")
Table_name=Table_name.select('tableName').collect()
mvv_array = [(row.tableName) for row in Table_name]
cnt = 0
for idx,i in enumerate(mvv_array):
if cnt == 0:
tmp = spark.sql('DESCRIBE default.'+i).withColumn('table_name',lit(i))
temp_df = tmp
cnt = cnt + 1
else:
tmp = spark.sql('DESCRIBE default.'+i).withColumn('table_name',lit(i))
temp_df=temp_df.unionAll(tmp)
temp_df.show()
Этот подход предложен @SohelReza, спасибо Сохелю.