Как создать несжатый текстовый файл с Athena - PullRequest
0 голосов
/ 13 марта 2019

У меня есть некоторые данные в Афине, и я хочу присоединиться и создать новую таблицу.Я могу сделать это с помощью операции CTAS, и AWS предоставит несколько примеров .

Я создаю вывод в формате TEXTFILE, и мне не нужно сжатие.В этой ссылке

Этот пример также определяет сжатие как SNAPPY.Если опущен, используется GZIP.

Вот пример моего кода:

CREATE TABLE "main_extended"
WITH (
    external_location = 's3://attr-dev/data-joiner/test-1/main_extended/',
    format = 'TEXTFILE',
    field_delimiter = ',')
AS
SELECT
    t1.*,
    t2.month
FROM main t1 left outer join period_month t2
ON t1.period = t2.period

Как указать параметр compression и какое значение должен принимать этот параметр для«выключить» сжатие для TEXTFILE формата?

1 Ответ

0 голосов
/ 01 апреля 2019

На сегодняшний день это не поддерживается синтаксисом CTAS - испробовал несколько подходов, тщательно изучил документацию, а также запросил поддержку AWS.

Рекомендуемый подход для создания таблиц, которые поддерживаются простыми текстовыми файлами.состоит в том, чтобы вызвать простой оператор SELECT из Афины и указать выходное местоположение, а затем вызвать запрос типа CREATE EXTERNAL TABLE, который ссылается на это выходное местоположение.Результат тот же, но механизм немного другой.

...