Функция активации при обучении однослойного персептрона

Question

При обучении многослойной нейронной сети для эффективного обучения необходимо использовать сигмоидальную функцию активации.

Есть ли какое-либо преимущество в использовании сигмоидальной функции активации при обучении персептрону с одним слоем или достаточно (или даже предпочтительнее) простой шаговой (тяжелой) функции?

Я медленно разбираюсь с нейронными сетями, но любая помощь с этим будет признательна.

Answer 1

Да, есть преимущество. Результат может быть что-то между 0 и 1 и не обязательно должен быть ДА или НЕТ, но также МОЖЕТ БЫТЬ. Даже для модели с одним нейроном лучше иметь функцию пошаговой активации.

Если вам нужно, это зависит от того, как будет считываться ваш вывод. Вам нужны двоичные значения (ДА, НЕТ) или что-то среднее?

Я думаю, вы могли бы также использовать линейную функцию, если не хотите использовать сигмоидальную функцию.