Выбор / извлечение признаков в модели ANN для регрессии

Question

Я пытаюсь приспособить модель ANN для регрессии с 15 входными параметрами.Некоторые из этих параметров связаны друг с другом, и связь не является линейной.Скажем, один из входных параметров может быть выражен как нелинейная функция других параметров.Но я не знаю этих отношений именно потому, что мне не хватает знаний в предметной области.Есть ли способ найти эти отношения среди входных параметров?

Я пытался найти эти отношения с матрицей корреляции панд, не мог сделать какой-либо вывод, так как он говорит об единственной линейной корреляции между 2 параметрами.

Заранее спасибо.

Answer 1

Один из способов найти нелинейные отношения между вашими входными объектами - это следовать подходу, аналогичному вычислению фактора инфляции дисперсии (VIF), который используется для определения линейных отношений между вашими входными объектами. Нам нужна модификация, вместо того чтобы использовать регрессию Обыкновенных наименьших квадратов (OLS) для определения линейных отношений между вашими входными объектами, вы можете использовать нейронную сеть вместо OLS, которая фиксирует нелинейные отношения между вашими объектами. .

Таким образом, ваш f будет OLS для вычислительной VIF при обычной настройке, в нашем случае это будет нейронная сеть, которая доказала свою эффективность в захвате не линейные отношения.

И для определения VIF в этом случае вместо мы могли бы заменить его с точностью нейронной сети.

И, наконец, для какой переменной VIF всегда выше, вы можете заключить, что они сильно коррелируют с другими функциями.

Надеюсь, это поможет!