Влияет ли семя PyTorch на выпадающие слои?

Question

Я натолкнулся на идею засева моей нейронной сети для получения воспроизводимых результатов, и мне было интересно, влияет ли посев питорча на выпадающие слои и как правильно начать сеанс обучения / тестирования?

Я читаюдокументация здесь , и интересно, будет ли достаточно просто разместить эти строки?

torch.manual_seed(1)
torch.cuda.manual_seed(1)

Answer 1

Вы можете легко ответить на ваш вопрос с помощью нескольких строк кода:

import torch
from torch import nn

dropout = nn.Dropout(0.5)
torch.manual_seed(9999)
a = dropout(torch.ones(1000))
torch.manual_seed(9999)
b = dropout(torch.ones(1000))
print(sum(abs(a - b)))
# > tensor(0.)

Да, достаточно использовать manual_seed.