Реализация слоев FC как слоев Conv - PullRequest
0 голосов
/ 24 октября 2018

Я понимаю, что реализация Fully Connected Layer в качестве Convolution Layer уменьшает параметр, но увеличивает ли он вычислительную скорость.Если да, то почему люди все еще используют полностью подключенные слои?

1 Ответ

0 голосов
/ 24 октября 2018

Сверточные слои используются для рассуждений низкого уровня как извлечение признаков.На этом уровне использование полностью подключенного слоя будет бесполезным расходом ресурсов, поскольку необходимо вычислить гораздо больше параметров.Если у вас есть изображение размером 32x32x3, для полностью связанного слоя потребуется вычисление весов 32 * 32 * 3 = 3072 для первого слоя.Эти многие параметры не требуются для рассуждений низкого уровня.Объекты, как правило, имеют пространственную локальность на изображениях, и для извлечения объектов достаточно локальной связи.Если вы использовали сверточный слой, 12 фильтров размером 3х3, вам нужно только рассчитать 12 * 3 * 3 = 108 весов.

Полностью связанные слои используются для рассуждения высокого уровня .Это уровни в сети, которые определяют конечный результат сверточной сети.По мере того как рассуждение становится более сложным, локальная связь перестает быть достаточной, поэтому полностью подключенные уровни используются на более поздних этапах сети.

Пожалуйста, прочитайте это для более подробного и наглядного объяснения

...