Я использовал Talos для настройки параметров функции активации в моей модели на основе потери проверки. Я в основном хотел посмотреть, смогу ли я найти функцию активации, которая работает лучше, чем та, которую я использовал в настоящее время (например, Relu, Relu против Relu, Sigmoid против Sigmoid, Relu и др. c.). Результаты тюнинга показали, что с сигмоидом Relu работал лучше всего.
Затем я создал отдельную идентичную модель и обучил ее, используя наилучшую комбинацию функций активации, определенную по процессу настройки, и увидел, что мои потери практически не достигают результата настройки. Я понимаю, что каждый раз, когда я тренирую свою модель, я получаю разные результаты, но я не ожидал, что она будет существенно отличаться. Что пошло не так?
Я все еще довольно новичок в машинном обучении: |