настройка параметров в тензорном потоке

Question

Я использую tf для обучения модели. Поскольку начальное значение сети обычно устанавливается случайным, это означает, что даже если параметры не изменяются, результаты каждой тренировки различны. Как судить, что улучшение связано с моей настройкой параметров или хорошими начальными параметрами? Спасибо.

Answer 1

Как правило, вы можете тренировать одну и ту же модель несколько раз, чтобы увидеть, насколько велика разница. Тем не менее, есть некоторые хорошие практики для подражания. Среди прочего вы можете

• Использовать перекрестную проверку https://en.wikipedia.org/wiki/Cross-validation_ (статистика)
• Убедитесь, что ваш набор данных проверки достаточно большой, чтобы иметь статистическую значимость. Если у вас есть только 100 тестовых изображений, получение еще одного правильного результата даст вам 1% прироста. Наличие 10 000 изображений в этом наборе означает, что вы должны получить еще 100 правильных значений для того же повышения в 1%, что уже лучше :)

Удачи в вашем проекте!