Где Nomad помещает загруженные файлы S3? - PullRequest
0 голосов
/ 31 октября 2019

У меня есть следующее задание кочевника:

job "aws_s3_copy_rev2" {
  datacenters = ["dc1"]
  type = "system"

  group "aws_s3_copy_rev2" {
    count = 1

    task "aws_s3_copy_rev2" {
      driver = "raw_exec"

      artifact {
        source = "s3::https://my-data-files/123/"
      }

      resources {
        cpu    = 500 # 500 MHz
        memory = 256 # 256MB
        network {
          port "http" {}
        }
      }
    }
  }
}

Я отправил задание, используя nomad run aws_s3_copy_rev2.nomad. Но я не знаю, куда загружается файл. Куда Nomad помещает загруженные файлы S3?

Это мой файл конфигурации для запуска агента Nomad.

# Increase log verbosity
log_level = "DEBUG"

# Setup data dir
data_dir = "/tmp/client1"

# Give the agent a unique name. Defaults to hostname
name = "client1"

# Enable the client
client {
    enabled = true

    # For demo assume we are talking to server1. For production,
    # this should be like "nomad.service.consul:4647" and a system
    # like Consul used for service discovery.
    servers = ["xxx:4647"]
    options {
      "driver.raw_exec.enable" = "1"
    }
}

# Modify our port to avoid a collision with server1
ports {
    http = 5657
}

1 Ответ

1 голос
/ 31 октября 2019

Обычно артефакты хранятся в папке размещения вне вашего распределения Nomad, которое в случае по умолчанию будет /etc/nomad.d/alloc/<alloc_id>/<task>/local/<your_file.ext> на компьютерах с Linux. Не уверен, где что-то происходит в других ОС.

В этом случае ваш data_dir установлен на /tmp/client1, поэтому я ожидаю, что файлы будут где-то вроде /tmp/client1/alloc/<alloc_id>/<task>/local/<your_file.ext>.

Важно отметить, что эти артефакты генерируются на «клиенте» Nomad, выполняющем выделение вашей работы, а не на машине, с которой вы запускаете задание.

Кроме того, возможно, вы захотите быть осторожным, укореняя свой Nomadкаталог данных в папке / tmp, поскольку он может периодически удаляться, что может объяснить, почему вы не можете найти эти файлы.

...