- Регуляризация - добавление стоимостного термина к функции для предотвращения принятия параметров экстремальных значений, таких как регрессия L1 и L2.
- Настройка гиперпараметра - процесс определения оптимального значения гиперпараметров, таких как количество переменных для использования в регрессионных моделях, глубина деревьев, количество нейронных связей в NN.
Я понял, что регуляризация - это настройка функций, тогда как мы настраиваем параметры в настройке гиперпараметров.
Я не уверен, правильно ли я понимаю.
У меня есть вопросы типа
- Является ли настройка гиперпараметра типом регуляризации?
- Если регуляризация является функцией Что же такое регуляризация с точки зрения древовидной модели или нейронных сетей?
Насколько я понимаю, Регуляризация может быть выполнена только в моделях на основе регрессии, после прочтения нескольких статей я запутался, и это похоже, что Регуляризация - это обобщенный термин c.