Настройка гиперпараметров с помощью Google Cloud ML Engine и XGBoost - PullRequest
0 голосов
/ 05 октября 2018

Я пытаюсь воспроизвести пример настройки гиперпараметра, указанный по этой ссылке , но я хочу использовать scikit learn XGBoost вместо tenorflow в моем обучающем приложении.

Я могу запустить несколькоиспытания в одном задании, для каждой комбинации гиперпараметров.Однако объект вывода Training, возвращаемый ML-Engine, не включает поле finalMetric , сообщающее информацию о метрике (см. Различия на рисунке ниже).

Что я получаю на примере приведенной выше ссылки: Объект вывода обучения с помощью учебного приложения Tensorflow

Что я получаю, запустив свое приложение обучения с XGBoost: Обучениеобъект вывода с обучающим приложением XGBoost

Есть ли способ для XGBoost вернуть обучающие метрики в ML-Engine?

Кажется, что этот процесс автоматизирован для тензорного потока, как указано в документации:

Как Cloud ML Engine получает вашу метрику

Вы можете заметить, что естьв этой документации нет инструкций по передаче метрики гиперпараметра в службу обучения Cloud ML Engine.Это связано с тем, что служба отслеживает сводные события TensorFlow, сгенерированные вашим обучающим приложением, и извлекает метрику.

Существует ли аналогичный механизм для XGBoost?

Теперь я всегда могу вывести результаты каждой метрикив файл в конце каждого испытания, а затем проанализировать их вручную, чтобы выбрать лучшие параметры.Но при этом я теряю автоматизированный механизм, предлагаемый Cloud ML Engine, особенно в отношении алгоритма поиска гиперпараметров "ALGORITHM_UNSPECIFIED"?

, т. Е.

ALGORITHM_UNSPECIFIED: [...] применяет байесовскую оптимизацию для поиска пространства возможных значений гиперпараметра, в результате чего получается наиболее эффективный метод для вашего набора гиперпараметров.

1 Ответ

0 голосов
/ 08 октября 2018

Поддержка настройки гиперпараметра в XGBoost реализована по-другому.Мы создали пакет cloudml-hypertune python , чтобы помочь сделать это.Мы все еще работаем над этим документом.В то же время вы можете обратиться к этому образцу подготовки , чтобы узнать, как его использовать.

...