Как игнорировать определенные точки данных при использовании сверточных LSTM?

Question

Я собираюсь предсказать завихренность течения океана, используя кинетическую энергию и температуру поверхности моря. Мои данные состоят из показаний кинетической энергии спутника и показаний температуры поверхности в области Гольфстрима. Я планирую использовать гибридную нейронную сеть, которая сочетает в себе рекуррентную архитектуру (LSTM) с моделью сверточной сети.

Мой набор данных состоит из суточных показаний кинетической энергии и температуры с 1996 по 2018 год, что составляет в общей сложности 8036x80x120 сеток. Например, учитывая кинетическую энергию и температуру , я хочу, чтобы NN предсказал завихренность .

Мой вопрос: как можноЯ влияю на свою нейронную сеть, чтобы игнорировать / сбрасывать со счетов сухопутную местность и фокусироваться только на данных об океане. Данные о местности хранятся в моих массивах изображений в виде значений NaN.

Я использую PyTorch.

Answer 1

Все, что вам нужно, это внимание будет решение, которое вы ищете. Механизм поможет вам сосредоточиться на определенных функциях / блоках в ваших входах. Существует средний пост , в котором рассказывается, как применить этот механизм к изображениям.