Spark представить, чтобы передать Unicode символ - PullRequest
1 голос
/ 20 января 2020

Как передать символ Unicode через конфигурацию spark-submit?
при передаче символа Unicode \u001D в качестве разделителя csv через spark-submit, он выдает ошибку ниже:

Неподдерживаемый специальный символ для разделитель: \ u001D. null ()

spark-submit
  --conf spark.csv.delimeter="\u001D" \

приведенный ниже код работает в spark-shell

val df = spark.read.option("sep","\u001D").option("header", "false").csv("PATH")

любая опция для передачи символа юникода через spark-submit

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...