Можете ли вы помочь мне выполнять задачи параллельно в Slurm?

Question

Я новичок в Slurm и пытаюсь запустить несколько исполняемых файлов для параллельной работы (в приведенном ниже примере это просто команда date).Я бы хотел, чтобы они запускались в разное время, разделенные небольшой задержкой.

Я сделал несколько попыток, пытаясь добавить дополнительные строки между sruns, например, "srun sleep 5s &" илиопция «--begin» показана ниже.В частности, параметр «--begin» не срабатывает, говоря, что «--begin игнорируется, поскольку узлы уже выделены».

Кажется, что параллельный модуль не доступен в нашем кластере.

#!/bin/bash
#SBATCH --output=parallel_test_%j.out   # Standard output and error log
#SBATCH --time=06:00:00
#SBATCH --nodes=1   # number of nodes
#SBATCH --ntasks=6   
#SBATCH --mem-per-cpu=1024M   # memory per CPU core

srun="srun -n1 -N1 --exclusive"
# --exclusive     ensures srun uses distinct CPUs for each job step
# -N1 -n1         allocates a single core to each task


$srun date &
$srun --begin=now+3 date &
$srun --begin=now+6 date &
$srun --begin=now+9 date &
$srun --begin=now+12 date &
$srun --begin=now+15 date &
wait

Вывод, который я получаю, следующий:

srun: error: --begin is ignored because nodes are already allocated.
srun: error: --begin is ignored because nodes are already allocated.
srun: error: --begin is ignored because nodes are already allocated.
srun: error: --begin is ignored because nodes are already allocated.
srun: error: --begin is ignored because nodes are already allocated.
Sun Jun 23 14:07:05 PDT 2019
Sun Jun 23 14:07:05 PDT 2019
Sun Jun 23 14:07:05 PDT 2019
Sun Jun 23 14:07:05 PDT 2019
Sun Jun 23 14:07:05 PDT 2019
Sun Jun 23 14:07:06 PDT 2019

Я хотел бы получить следующий вывод:

Sun Jun 23 13:22:54 PDT 2019
Sun Jun 23 13:22:57 PDT 2019
Sun Jun 23 13:23:00 PDT 2019
Sun Jun 23 13:23:03 PDT 2019
Sun Jun 23 13:23:06 PDT 2019
Sun Jun 23 13:23:09 PDT 2019

Спасибо за вашу помощь

Answer 1

В этом случае --begin не поможет, потому что он используется для отсрочки запуска задания, и задание уже запущено, когда srun запускается в сценарии отправки.

Выможет получить запрошенное поведение следующим образом:

$srun date &
sleep 3; $srun date &
sleep 3; $srun date &
sleep 3; $srun date &
sleep 3; $srun date &
sleep 3; $srun date &
wait

или даже так

$srun date &
$srun bash -c "sleep 3 ; date" &
$srun bash -c "sleep 6 ; date" &
$srun bash -c "sleep 9 ; date" &
$srun bash -c "sleep 12 ; date" &
$srun bash -c "sleep 15 ; date" &
wait

Относительно

Кажется, что параллельный модуль не доступен в нашемкластер

это не означает, что вы не можете установить его самостоятельно (см. этот вопрос ).Если на вашем кластере установлен Easybuild , это будет еще проще.(Если это не так, вы также можете установить его самостоятельно). Затем вы можете использовать опцию --delay.

parallel --delay 3 $srun date