Чтобы установить связь между глубоким обучением и динамическими обратными задачами, я хотел бы реализовать ResNets в наборе данных MNIST для мониторинга весов, который, по-видимому, играет роль "магистралей" в качестве задачи оптимального управления без обратной связи. Мне интересно посмотреть, есть ли в нейронных сетях «шлагбаумы».
Это явление, возникающее в некоторых задачах оптимального управления, когда все оптимальные решения идут «близко» к некоторой траектории, полученной из задачи статической оптимизации. («Магистраль» - это американский термин, обозначающий «Шоссе» / «Автобан»). Что хорошо, если у вас есть шлагбаум, то у вас есть отличное начальное предположение для решателей, и вы можете ускорить обучение DNN.
Согласно этой статье Я хочу обучить некоторые (очень глубокие) ResNets и посмотреть на скрытые слои, чтобы увидеть, есть ли шлагбаумы по Keras и получить результаты работы:
ً Вопрос Если мы предположим, что веса - это шлагбаумы, как можно реализовать ResNet с помощью Keras для понимания ResNet Инициализация веса как здесь ?
Любая помощь будет принята с благодарностью