В то время как на самом деле правильные другие ответы просто предоставляют значение е и подтверждают базовые вычисления. Этот тип сигмоидальных функций настолько распространен в нейронных сетях, что может потребоваться дополнительная информация.
По существу, экспоненциальная функция (е к степени х) имеет очень характерную кривую:
- В основном плоский в нуле (на самом деле, немного выше нуля), от - бесконечности до -2
- пошагово резкий поворот к вертикали, между -2 и + 4
- квази "вертикаль", со значениями, превышающими 150 и все более и более огромными, от +5 до бесконечности
В результате экспоненциальные кривые очень полезны для создания "S-образных" функций ; Кстати, "S" это Сигма по-гречески, которая поставила этимологию для " сигмоид ". Такие функции часто создаются по формуле, показанной в вопросе:
1/(1 + e^-x)
где x - переменная. Обычно такие функции также включают в себя константы, нацеленные на расширение диапазона (входная зона, где изменения x значительны) и / или на изменение кривой в этой средней зоне.
Результатом таких функций является то, что до определенного значения входа функция является квазипостоянной, затем для определенного диапазона входов функция обеспечивает увеличение выходного сигнала и, наконец, после верхнего значения диапазона, функция является квазипостоянным Кроме того, рассматривая более подробно, такие сигмоиды имеют точку перегиба, которая соответствует изменению скорости изменения выхода и которая также отмечает область кривой с обеих сторон, где изменения являются самыми медленными, относительно.
В свою очередь, такие S-образные кривые (1) очень полезны для нормализации выхода нейронов нейронной сети , или, в более общем смысле, для нормализации различных числовых значений во время процессов различной природы. Интуитивно они соответствуют " сладкому пятну " или " сладкому диапазону " нижележащего нейрона или устройства.
(1) Или также, возможно, кривые в форме «понижения», то есть кривые с главным образом постоянным высоким значением, уменьшающимся значением в среднем диапазоне и низким главным образом постоянным значением после этого.