Отбросьте неактивные функции в Keras

Question

Я строю последовательную модель NN в Керасе для бинарной классификации.Обучающие данные имеют около 600 000 строк и 2000 объектов, поэтому каждая эпоха и каждый слой занимают очень много времени.Я полагаю, что многие функции не имеют отношения к модели и могут быть исключены, чтобы сделать модель тоньше, чтобы с ней было быстрее работать.Я запускаю простую модель с одним скрытым слоем из 200 нейронов.Как я могу сказать, какие из объектов (которые на самом деле являются узлами входного слоя) не имеют смысла, чтобы я мог удалить их из набора данных и повторно запустить модель без них?

Answer 1

В машинном обучении есть очень большая тема, которая называется feature selection.Тем не менее, считается, что нейронные сети автоматически выбирают лучшие функции для задачи, в некоторой степени, используя их весовые коэффициенты, чтобы рассмотреть более или менее некоторые из них.Нейронные сети также нуждаются в большом опыте для правильной настройки.Я бы определенно предложил вам увеличить уровни сети, потому что у вас много данных и функций и вы используете l1 regularisation, чтобы получить разреженные веса и исключить большинство функций.Кроме того, эта информация является ориентировочной, поскольку я ничего не знаю о вашем наборе данных и вашей сетевой архитектуре.Наконец, я бы предложил вам больше узнать об основах машинного обучения, а затем продолжить изучение нейронных сетей, прежде чем практиковаться с реальными данными.