из hdfs в openstack swift - PullRequest
       20

из hdfs в openstack swift

0 голосов
/ 28 марта 2019

Я пишу программу Scala для загрузки файлов в openstack swift: hdfs://xxxx/user/me/2018_07_01/count.txt в swift://mycontainer.SparkTest/2018_07_01/count.txt.

Я пробовал https://spark.apache.org/docs/2.2.0/storage-openstack-swift.html,, но она сгенерирует один каталог, который включает в себя _SUCCESSи part-0000-xxxx.gz в быстром контейнере.но мне нужно скопировать только один файл.

Вышеуказанное основано на org.apache.hadoop.fs.swift.snative.SwiftNativeFileSystem из https://github.com/openstack/sahara-extra. Есть ли примеры использования API в https://github.com/openstack/sahara-extra для простой загрузки одного файла TXT вСвифт контейнер?

Спасибо

...