Как обрезать определенные веса (а не заморозить слой) с помощью Keras?

Question

Я пытаюсь сократить некоторые связи в глубокой модели с Керасом. Эти соединения находятся в разных местах и ​​на разных уровнях полностью соединений, поэтому настройка layer.trainable=False не работает для меня.

1. Итак, как обрезать эти соединения (заморозить их веса до 0 во время тренировки) в Керасе? Нужно ли мне писать свои собственные слои и как?

2. Легко ли другие инструменты, такие как PyTorch, поддерживают эту операцию удаления (или замораживания) (нет необходимости писать свои собственные слои)?

Answer 1

Этот инструмент будет вам интересен: https://www.tensorflow.org/model_optimization/guide/pruning