В каких ситуациях функция потерь должна наследовать nn.module в pytorch?

Question

Меня смущает функция потерь в PyTorch. Некоторые люди определяют функцию потерь как обычную функцию python, в то время как другие определяют функцию потерь, определяя класс, который наследует nn.Module. Итак, я хочу знать, в каких ситуациях нам нужно определить функцию потерь путем наследования nn.Module? Большое спасибо.

Answer 1

Как правило, наследование от nn.Module необходимо только тогда, когда вы хотите иметь обучаемые переменные в этом модуле, в противном случае наследовать его необязательно.

То же самое относится к функциям потерь, если они не содержат таких переменных (что, как я полагаю, является основным случаем), наследование не требуется.