Как реализовать функцию активации палатки в Pytorch?

Question

Мне нужно создать функцию активации палатки, как показано на следующем рисунке. Мне было интересно, есть ли в факеле встроенная функция активации палатки? Если нет, есть ли способ создать эту функцию активации?

Спасибо

Answer 1

Я нашел простое решение для реализации функции активации палатки в функции пересылки

import torch
import torch.nn as nn
class Net(nn.Module):
    def __init__(self):
         super(Net, self).__init__()

    def forward(self, input):
        out = nn.functional.relu(input + 1) - 2 * nn.functional.relu(input) + nn.functional.relu(input - 1)
        return out

То же самое решение может быть реализовано с использованием

nn.ReLU()

в качестве слоев сети.

Answer 2

Я думаю, что это можно использовать.

y = (x>0)*(1-x>0)*(1-x) + (x<0)*(1+x>0)*(1+x)