Обучение RMSE выше, чем Валидация RMSE в H2O

Question

Я использую модель H2O-DeepLearning для решения проблемы регрессии.Я наблюдаю, что RMSE для обучения выше, чем RMSE для валидации.Я использую модель с параметром по умолчанию, который представляет собой два скрытых слоя с 200 нейронами каждый и без регуляризации l1 / l2.Активация выпрямителя.Отбрасывание не добавлено.

Мне интересно, как я могу настроить два гиперпараметра, чтобы получить RMSE для обучения ниже RMSE для проверки?

Любые подсказки для параметра?

Я использую отдельный поезд,Валидация и тест-набор.Учебные данные имеют 1958826 образцов, Валидация и набор тестов содержат 599380 образцов каждый.

R-квадрат Значение составляет около 0,65 - 0,7

Редактировать: хотя я испытываю среднеквадратичное значение RMSE по сравнению с RMSE для обучения, оноКажется, что значения для остаточного отклонения в обучении ниже, чем для проверки.Так что это нормально.

Редактировать: Обучение: RMSE: 0,3592 Отклонение: 0,0071

Проверка: RMSE: 0,3403 Отклонение: 0,0082

Я делаю квантильную регрессию (если этолюбая помощь), и у меня есть отдельные наборы данных поезда / теста, в то время как я разделил набор тестов на проверку и тестирование методом h2o-split_frame.

Answer 1

Вот несколько рекомендаций того, что вы можете попробовать.

1. Поезд для большего количества эпох
2. Уменьшение размера партии
3. Увеличение количества нейронов в скрытых слоях.

Это возможночто малое количество эпох является причиной ухудшения качества поезда в вашей задаче регрессии.