Точность в 1-ю эпоху - пример глубокого обучения MNIST

Question

Я новичок в мире глубокого обучения, и я хотел бы кое-что прояснить в моем первом коде глубокого обучения, примере MNIST. Может быть, я тоже не прав, кстати, поэтому, пожалуйста, успокойся:)

Я разделил тренировочные данные на партии, каждая из которых имеет размер от 50 и максимальное количество эпох до 15 (или до тех пор, пока переменная потери проверки не начнет увеличиваться).

Я получаю 93% точности только в 1-ю эпоху, как это возможно, если (насколько я знаю) в 1-ю эпоху он имеет передовой и обратный ход всего тренировочного комплекта всего 1 раз, поэтому тренировочный комплект имеет только отбор его веса и уклоны только один раз?

Я думал, что получу точную точность после многих эпох, а не только по 1-й поправке весов

Answer 1

Да. Хорошую точность можно получить и в первую эпоху. Это зависит больше от сложности данных и модели, которую вы строите. иногда, если скорость обучения слишком высока, это также может привести к более высокой точности обучения.

Кроме того, что касается настройки весов и смещений, это может быть тренировка мини-партии, и для каждой мини-партии модель обновляет веса. Таким образом, весовые коэффициенты могли бы обновляться много раз, что равно количеству изображений тренировочных данных / размеру выборки