(SVM) Оптимизация гиперпараметра с помощью CMA-ES Python - PullRequest
0 голосов
/ 06 марта 2020

Я хотел бы знать, как я могу использовать библиотеку pycma для оптимизации моих гиперпараметров (пожалуйста, не рекомендуйте мне использовать scipy.optimize, это просто для изучения).

Скажите, что у меня есть гиперпараметры C и гамма (ядро rbf),

  1. Как определить начальное предположение x0 (я предполагаю, что это будет ошибка модели), и будет Мне нужно стандартное отклонение?

  2. Что я должен ввести в cma.fmin ()?

Насколько я понимаю, целевая функция была бы чем-то как,

def objective_fxn():
    # obtain the hyperparameters (HP)
    # create instance of ML model
    # train model with current HP
    # test model, obtain error_metric
    return error_metric

https://github.com/CMA-ES/pycma

...