Как показать файл данных в хорошем формате в блокноте jupyter, используя pyspark с ядром apachee-toree - PullRequest
0 голосов
/ 27 июня 2018

Будет очень трудно прочитать выходные данные, если они не в правильном формате, как показано на рисунке в этой ссылке -> требуемый вывод . Я запускаю свой код на ноутбуке jupyter в pyspark с ядром apache-toree. В настоящее время, когда я показываю свой фрейм данных, он выглядит примерно так, как показано на рисунке в этой ссылке -> Текущая таблица .

Я знаю, что есть способ использовать "магию", как указано на apache toree website , но он также не работает в pyspark. Это работает, если я загружаю обычную тетрадь Python в Jupyter. Выдает ошибку, показанную на изображении с pyspark

Я не могу ничего найти в интернете по этому поводу. Любая помощь очень ценится.

1 Ответ

0 голосов
/ 30 октября 2018

Я обхожу эту проблему, преобразовывая pyspark DataFrame в pandas DataFrame с помощью метода toPandas.

...