Почему кривая обучения необходима, чтобы определить, имеет ли нейронная сеть высокий уклон или дисперсию?

Question

В курсе машинного обучения Эндрю Нга рекомендуется составить график обучения (размер учебного комплекта в зависимости от стоимости), чтобы определить, имеет ли ваша модель большую погрешность или дисперсию.

Однако я тренирую свою модель с использованием Tensorflow и вижу, что моя потеря при проверке увеличивается, а моя потеря при обучении уменьшается. Насколько я понимаю, это означает, что моя модель переоснащается, и поэтому у меня высокая разница. Есть ли еще причина для построения кривой обучения?

Answer 1

Да, есть, но это не только для переоснащения.Но в любом случае, построение графиков - это просто модный способ увидеть числа, а иногда и дает представление.Если вы отслеживаете потери в поезде / проверке одновременно - вы, очевидно, просматриваете одни и те же данные.

Что касается идей Эндрю - я предлагаю изучить его курс глубокого обучения, он поясняет, что в современных приложениях (DL +много данных, и я считаю, что это ваш случай) смещение не является противоположностью дисперсии.