Выбрана ли особенность c для регрессионной / классификационной модели?

Question

Итак, как следует из названия, мой вопрос заключается в том, являются ли алгоритмы выбора признаков независимыми от выбранной модели регрессии / классификации. Может быть, некоторые алгоритмы выбора функций независимы, а некоторые нет? Если да, то можете ли вы назвать несколько из них? Спасибо.

Answer 1

Это зависит от алгоритма, который вы используете для выбора функций. Методы фильтрации, которые выполняются до моделирования, конечно же, агности c, так как они используют статистические методы, такие как хи-квадрат или коэффициент корреляции, чтобы избавиться от ненужных функций.

Если вы используете встроенные методы, где функции выбираются при создании модели, возможно, что разные модели найдут значение в разных наборах функций. Lasso, Elasti c Net, Ridge Regression - вот несколько примеров из этого.

Стоит отметить, что некоторые типы моделей хорошо работают с разреженными данными или пропущенными значениями, а другие - нет.