Я пытаюсь составить возможное чистое и аккуратное предложение из списка слов. Я не уверен, какую архитектуру нейронной сети мне нужно использовать для выполнения этой задачи.
В основном, проблема связана с вводом, как показано ниже
Ввод-> полив, мария, растения, есть,
Вывод, который я хочу получить
выход-> Мэри поливает растения.
У меня есть корпус из 100 000 входов и выходов.
Какой следующий шаг мне нужно сделать? Конечно, это нейронная сеть, которая мне нужна. Но я не уверен насчет архитектуры, которую мне нужно использовать здесь?
Мне нужна модель Seq2Seq? или это модель трансформатора? Может кто-нибудь, пожалуйста, пролить свет на это и дать правильный архитектурный подход к этому.
Целесообразно ли использовать BERT в качестве модели встраивания или мне нужно рассчитаться с Word2Vec?
Любая идея подойти к этой проблеме или справочный проект будет очень полезна для меня.