Как я могу реализовать простую нейронную сеть, дополненную памятью, как это предусмотрено в этом дополнении к Tensorflow2 и Keras? - PullRequest
0 голосов
/ 24 марта 2020

Я нашел этот репозиторий (https://github.com/donggong1/memae-anomaly-detection) с реализацией pytorch простой памяти для нейронной сети. Я думаю, что эта память может быть легко реализована с помощью Keras. Но я не знаю, с чего начать.

enter image description here

Кто-нибудь может мне помочь, как переопределить аппроксимацию памяти с TF2 и Keras? В лучшем случае только с одним MLP с 3-мя плотными слоями (автоэнкодер не нужен). Я просто хочу привести пример того, как эта память будет реализована в Keras / TF2.0.

Память очень проста и работает следующим образом: скрытый вектор сравнивается со всеми сохраненными векторами памяти относительно косинусного сходства. Благодаря вниманию, наиболее похожая запись выбрана и используется для дальнейшей обработки. Но как узнать записи / векторы / прототипы матрицы памяти? Как это сделать в Керасе?

Мне не понятно, как я могу изучить прототипы, хранящиеся в памяти.

...