Как определить точность cnn при написании статьи

Question

Я хочу написать статью о сверточной нейронной сети, точность набора данных проверки моей модели cnn колеблется от 98 до 99, точность набора тестовых данных не всегда одинакова. Так что я не уверен, в какое время мне следует написать точность, общее количество эпох в эксперименте составляет 6000 раз. Могу ли я выбрать наивысшую точность из 10 эпох в последней эпохе в качестве точности статьи или как мне это сделать? Большое спасибо!

Answer 1

У меня такая же проблема. Вот те подходы, которые я использовал:

Периодически снижать скорость обучения

Периодическое снижение скорости обучения не только повышает точность проверки, но также уменьшает дисперсию точности в конце обучения.

Например, разделив скорость обучения на 5

Epochs        Learning rate
0-4000        5e-4
4000-5000     1e-4
5000-6000     2e-5
etc

Вы также можете отслеживать это автоматически. Например, если потеря не значительно уменьшилась за последние N партий, уменьшите скорость обучения и перезапустите счет. После того, как M уменьшится, прекратите тренировку.

Повторите эксперимент

Точность, которую вы получите, будет зависеть от начальных случайных весов, назначенных при создании сети. Таким образом, даже при использовании снижения скорости обучения, вы все равно получите разные результаты. Повторите эксперимент и возьмите среднее. Это займет много времени, в зависимости от вашего набора данных.

Answer 2

10 измерений недостаточно для получения статических атрибутов со значительным свойством ... вы можете перечислить все 10 или указать low , high , avg и медиана , их должно быть достаточно для заключения контракта с вашей сетью и сравнения с другими сетями