Есть ли способ регулярно запускать вторичный скрипт Python для работы над выводом первичного скрипта в Slurm?

Question

Я отправляю пакетный скрипт, который включает в себя основную команду / скрипт (процесс mpi), который выводит данные, и мне нужно оценить ход первичного процесса, запустив вторичный скрипт Python через фиксированные интервалы времени, когда основной процесс все еще работает. Есть ли какая-нибудь команда, которая позволила бы мне сделать это с помощью пакетного сценария Slurm?

В качестве примера рассмотрим, что основной процесс занимает 24 часа, если я обычно размещаю скрипт Python после окончания основной команды / скрипта, он будет запускаться только в конце основного процесса. Мне нужна команда / скрипт Python для запуска каждые 1 час для обработки данных, сгенерированных основным процессом. Это возможно на слёрме?

Answer 1

Структура скрипта будет выглядеть так:

#! /bin/bash
#SBATCH ...
#SBATCH ...

while : ; do sleep 3600 ; python <secondary script> ; done &

mpirun <primary command>

Идея состоит в том, чтобы запустить вторичный скрипт в бесконечном цикле в фоновом режиме. Когда основная команда заканчивается, задание прекращается и фоновый цикл останавливается.