Есть ли разница в использовании TimeDistributed на одном плотном слое?

Question

Есть ли разница между добавлением оболочки TimeDistributed вокруг одного плотного слоя?Оба имеют одинаковое количество параметров (2208) и одинаковую форму вывода (Нет, 6, 32).Цель состоит в том, чтобы у меня была последовательность данных длиной 6 временных шагов с каждым временным шагом, имеющим 64 объекта, которые я хочу пройти через плотный слой.

# With TimeDistributed
m = keras.models.Sequential()
m.add(keras.layers.TimeDistributed(keras.layers.Dense(32, activation='relu'), input_shape=(6, 64)))

# No TimeDistributed
m = keras.models.Sequential()
m.add(keras.layers.Dense(32, activation='relu', input_shape=(6, 64)))

Answer 1

Нет, между двумя примерами нет никакой разницы.

По умолчанию, если len(input_shape) = 2 для слоя Dense (исключая размер пакета), он ведет себя так же, как при использовании слоя TimeDistributed.

Однако, если вы сгладили (Flatten слой) свой ввод и затем подали его в слой Dense, тогда это другая история.