Что используется для тренировки механизма самосохранения?

Question

Я пытался понять самообслуживание, но все, что я нашел, не очень хорошо объясняет концепцию на высоком уровне.

Допустим, мы используем самообслуживание в задаче НЛП, поэтому наш ввод - предложение.

Тогда самообслуживание можно использовать для измерения того, насколько «важно» каждое слово в предложении для любого другого слова.

Проблема в том, что я не понимаю, как измеряется эта «важность». Важно для чего?

Какому именно вектору цели обучаются веса в алгоритме самосознания?

Answer 1

Соединение языка с основным значением называется заземлением. Предложение типа «мяч на столе» приводит к изображению, которое можно воспроизвести с помощью мультимодального обучения. Мультимодальный означает, что доступны различные виды слов, например, события, слова действия, предметы и так далее. Механизм самовосприятия работает с отображением входного вектора на выходные векторы и между ними находится нейронная сеть. Выходной вектор нейронной сети соответствует заземленной ситуации.

Давайте приведем короткий пример. Нам нужно пиксельное изображение размером 300x200, нам нужно предложение на естественном языке и нам нужен парсер. Парсер работает в обоих направлениях. Он может конвертировать текст в изображение, что означает, что предложение «Шарик на столе» преобразуется в изображение размером 300x200. Но также возможно проанализировать данное изображение и извлечь естественное предложение обратно. Самообучение - это метод начальной загрузки, чтобы выучить и использовать основанные отношения. Это означает проверку существующих языковых моделей, изучение новой и прогнозирование будущих состояний системы.