выбор параметров при создании хорошей глубокой нейронной сети - PullRequest
0 голосов
/ 06 апреля 2020

в нейронных сетях у нас есть такие параметры, как импульс, скорость обучения, функция активации и т. Д. c. поэтому мой вопрос: какие параметры выбрать, чтобы создать хорошую глубокую нейронную сеть? также есть ли критерии, на основании которых мы выбираем параметры.

1 Ответ

1 голос
/ 06 апреля 2020

Это немного загруженный вопрос, и я не уверен, что формат вашего вопроса правильный для StackOverflow, поскольку это не обязательно вопрос кодирования.

Однако выбор гиперпараметров - это один из самых больших проблем во всем машинном обучении. Нет правильного ответа, который сказал бы, что «X и Y дадут ли вам лучшие результаты, чем Z и W» из-за того, сколько факторов go в вопросе. Какой тип моделирования вы пытаетесь, какова ваша цель, каковы ваши данные и т. Д. c ..

Первая часть, которую я бы предложил, следует из моего вопроса, приведенного выше в разделе «Какова ваша цель». Если это классификация, регресс или что-то еще. Как только вы сможете ответить на этот вопрос, вам, вероятно, потребуется определить функцию потерь. Само по себе это может быть сложно, но вот ссылка, которую я предоставил, которая дает хороший обзор различных функций потерь и их использования: https://machinelearningmastery.com/how-to-choose-loss-functions-when-training-deep-learning-neural-networks/

Во-вторых, определение других параметров совсем другой вызов. От размера партии, скорости обучения, оптимизатора и т. Д. c .. Слишком много, чтобы когда-либо получить окончательный ответ. Некоторые методы, однако, используют поиск по сетке, где вы, по сути, запускаете свою модель в виде последовательности oop со всеми возможными параметрами, которые вы хотите проверить. Тюнер Keras - это один из таких инструментов, который может это сделать.

В целом, я думаю, вам следует провести дальнейшее исследование топологии c глубокого обучения. https://www.deeplearning.ai/ai-notes/optimization/ Вот полезная ссылка, которая может дать некоторое представление.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...