Функция приближения нейронной сети

Question

Я пытаюсь проверить эффективность нейронных сетей как функции аппроксимации.

Функция, которую я должен аппроксимировать, имеет 5 входов и 1 выход, какую структуру мне использовать?Я понятия не имею, какие критерии следует применять, чтобы определить количество скрытых слоев и количество узлов для каждого слоя.

Заранее спасибо, С уважением

Джузеппе.

Answer 1

Я всегда использую один скрытый слой.Теоретически, нет функций, которые могут быть аппроксимированы двумя или более скрытыми слоями, которые не могут быть аппроксимированы одним.Чтобы сделать один скрытый слой более сложным, добавьте больше скрытых узлов.

Как правило, количество скрытых узлов варьируется, чтобы наблюдать влияние на производительность модели (измеряемое точностью или чем-то еще).Слишком малое количество скрытых узлов приводит к худшему соответствию из-за недостаточного соответствия (функция вывода нейронной сети слишком проста и пропускает важные детали в данных).Слишком много скрытых узлов приводит к худшему соответствию из-за переоснащения (нейронная сеть становится настолько гибкой, что преследует каждый бит шума в данных).

Answer 2

Обратите внимание, что для задач классификации вам нужно как минимум 2 скрытых слоя, если вы хотите разделить вогнутые полигоны.

Я не уверен, как количество скрытых слоев влияет на приближение функции.