У меня есть нейронная сеть с двумя отдельными векторами в качестве входных данных, аналогично этому вопросу . Оба входа кодируются, а затем обрабатываются дальше. Но до тех пор кодирование этих входов полностью независимо. Как я могу распараллелить фазу кодирования в pytorch? Минимальный пример моего кода:
class MyModel(nn.Module):
def __init__(params):
super(MyModel self).__init__()
self.encoder1 = Encoder1()
self.encoder2 = Encoder2()
def forward(x1, x2):
# how to calculate both encodings in parallel?
enc1 = self.encoder1(x1)
enc2 = self.encoder2(x2)
return some_func(enc1, enc2)
Я проверил форумы по pytorch и немного узнал о DataParallel, но я не уверен, как приспособить его к моему случаю и только на 1 графическом процессоре.