Является ли механизм внимания действительно вниманием или просто снова смотрит на память?

Question

При чтении механизма внимания я путаю термин «внимание».То же самое с природой нашего внимания, как описано в обычном определении?

Answer 1

Внимание, как представлено в Внимание - это все, что вам нужно , ИМХО, очень похоже на то, что наш мозг использует в качестве механизма внимания.

У нас в мозгу есть что-то по имени LGN, отвечающее за фильтрацию ненужной информации для выполняемой задачи.Например, если я начну искать свои ключи, мой мозг будет уделять меньше внимания объектам с цветом, отличным от серебра или золота (надеюсь).Теперь я не знаю о механизмах внимания более высокого уровня человеческого мозга.Однако ясно, что информация проходит через каждый слой перед вниманием и представляется в виде нейронных действий.

Когда вы кормите свою искусственную модель представлением текущего состояния мира, информация собираетсябыть представленными в виде тензоров, и, аналогично, внимание позволяет вам увидеть то, что вам нужно увидеть, чтобы принять лучшее решение (аналогично поиску ключей).

Answer 2

Например, в задаче машинного перевода, интуитивно это эквивалентно выводу переведенного слова, а затем возврату всей вашей внутренней памяти текста, чтобы решить, какое слово создать следующим.Это кажется пустой тратой, а вовсе не тем, что делают люди.На самом деле, это больше похоже на доступ к памяти, а не на внимание, что, на мой взгляд, несколько неверно (подробнее об этом ниже).Тем не менее, это не помешало механизмам внимания стать достаточно популярными и хорошо выполнять многие задачи.