Я недавно начал использовать Metaflow для поиска гиперпараметров. Я использую foreach
для всех своих параметров следующим образом:
from metaflow import FlowSpec, step
@step
def start_hpo(self):
self.next(self.train_model, foreach='hpo_parameters')
@step
def train_model(self):
# Trains model...
Это работает, поскольку запускает шаг train_model
, как и предполагалось, но, к сожалению, он хочет распараллелить все шаги одновременно. Это приводит к тому, что моему gpu / cpu не хватает памяти, мгновенно завершается с ошибкой.
Есть ли способ указать метапотоку выполнять эти шаги линейно / по одному вместо другого или другого обходного пути?
Спасибо