Как вызвать функцию периодически в Pytorch

Question

У меня есть определенная функция, и я просто хочу знать, возможно ли ее выполнить по частям.Например,

def function():
    Some processes here
    return x

def forward():
    encode = self._encoding(embedded_premises,premises_lengths)

Теперь, поскольку кодирование будет 3D-тензором, которое будет batch size, seq_length, hidden size Я хочу выполнить function() в пакетном режиме и return x также в пакетном режиме.

IsЕсть ли другой способ, кроме перебора всех партий?

Answer 1

Если вы работаете с функциями pytorch внутри вашего function, что наиболее вероятно, если вы хотите, чтобы ваш метод работал с autograd, может работать периодически.Это означает, что большинство операций с Pytorch уважают или могут быть выполнены так, чтобы уважать первое измерение как пакетное измерение (например, свертки, линейные слои и т. Д.).Иногда сложнее выразить вашу работу так, чтобы она была правильной и быстрой, но в целом pytorch строится с предположением, что операции будут использоваться с пакетными данными, и это делается настолько просто, насколько это возможно.Если у вас есть более конкретный пример вашего function, пожалуйста, опубликуйте его.