Я пытаюсь выполнить задачу оптимизации гиперпараметров на LSTM (чисто Tensorflow), используя пакет Scikit-Optimize . Я не знаком с байесовской оптимизацией или байесовскими функциями. Этот пакет предлагает байесовскую оптимизацию с использованием гауссовского процесса (gp_minimize). В его параметрах нас просят дать функцию сбора данных (acq_func).
search_result = gp_minimize(func=fitness,
dimensions=dimensions,
acq_func='EI', # Expected Improvement.
n_calls=40,
x0=default_parameters)
В документации перечислены несколько функций сбора данных, из которых мы можем выбирать. Ниже перечислены варианты:
«LCB» для более низкой доверительной границы.
«EI» для отрицательного
expectedimprovement.
«ПИ» для отрицательной вероятности
улучшение.
"gp_hedge" вероятностно выберите один из вышеперечисленных
три функции сбора данных на каждой итерации. Вес дан
эти усиления можно установить с помощью \ eta через acq_func_kwargs.
Моя задача - задача прогнозирования продаж, и я пытаюсь минимизировать ее среднеквадратическое значение. Они дали пример кода задачи классификации. Но я не смог получить много понимания из этого
Вопрос : Я хотел бы знать, есть ли способ определить, какая функция сбора данных лучше для какого сценария и какую функцию сбора данных следует использовать в моем сценарии.