Попытка создать RNN, который распознает повторение - PullRequest
0 голосов
/ 21 апреля 2019

Я пытаюсь создать RNN (может быть LSTM или GRU), который обрабатывает шаблоны следующим образом:

"(1221)(4554)(xyyx)(8998)"

И даже если вы начинаете его с символов, его никогда раньше не видели как "(ab"тогда он знает, как продолжить.

Другими словами, последовательность имеет вид" ("+ x + y + (char-1) + (char-3) +") "

Так что мойПервой мыслью было предварительно обработать последовательность специальными символами, например, «@» означает повторение последнего символа, а «#» означает повторение символа 3. Назад. Таким образом, данные для обучения становятся такими:я буду учиться довольно легко. Интересно, есть ли другой способ сделать это, который я пропустил? Или это лучший способ? Если бы это была пространственная проблема, я думаю, что CNN мог бы обработать это без предварительной обработки, потому что это может определить различия (как это делается для обнаружения краев).

Мои мысли о том, что человеческий мозг может иметь специальный механизм для распознавания повторений. И я хочу попытаться решить эту проблему.

...