Я только что провел час, читая статью о выпрямленных линейных единицах (ReLu).Я нахожу очень сложным распаковать соответствующую математику.
По сути, это просто говорит о том, что после того, как вы выполнили конвульсию и объединение, вы измените отрицательные значения на 0?
Это так?
Вы почти правы. Однако для входных значений, которые больше нуля, он становится обычной линейной функцией. Следовательно, функция:
f(x) = 0, when x < 0; = x, otherwise (or) f(x) = max(0, x)