Почему мы должны бросить Tensorflow?

Question

Я читал эту статью, https://www.tensorflow.org/api_docs/python/tf/keras/layers/Dropout. Выпадение поможет предотвратить переоснащение за счет включения неактивного нейтрона в ИНС. Но следующий вопрос ...

почему мы должны выбрасывать нейтроны, поскольку мы можем отрегулировать, сколько нейтронов в ANN ?. Например, чем отличается этот код? нейтрон

Answer 1

Выпадение вероятностно удаляет несколько нейронов на тренировке, чтобы уменьшить переоснащение. В первом коде во время обучения будет отброшено 20% нейронов, что означает, что веса, связанные с этими нейронами, не будут обновляться во время обучения. Во время тестирования будут присутствовать все нейроны, и сеть увидит все 100 нейронов. Во втором случае, во время обучения и тестирования, сеть увидит 80 нейронов в лице обучения и тестирования.

Answer 2

На каждом этапе обучения с использованием отсева некоторые нейроны выбираются случайным образом и удаляются. В тестовой фазе используется каждый нейрон.

Таким образом, первый - использовать 100 нейронов, но они обучены так же. [Первый раз] H1, H2, H3, ..., H80 обучаются [Второй раз] H61, H62, ..., H100 обучаютсяm ....

Второй - использовать 80 нейронов и они тренируются каждый раз.